The Future Worth Building Is Human – Thinking Machines Lab
인공지능의 미래 가치는 인간에게 있으며, 이는 인간의 지식, 의지, 판단에 의해 형성되어야 한다는 것이 핵심 주장입니다. Thinking Machines Lab은 인공지능이 인간의 의지와 판단을 확장하도록 구축하는 것을 목표로 하며, 이를 위해 AI의 목표 설정과 정렬(alignment) 과정에 인간의 참여가 필수적이라고 강조합니다.
현재 사용되는 대부분의 AI는 특정 환경에서 훈련된 후 고정되어 있으며, 인간이 함께 하는 작업에서 얻는 지식이나 판단을 충분히 반영하지 못하고 있습니다. 따라서 인간의 의지와 판단을 AI에 확장하기 위해서는 AI가 사람들과 마찬가지로 다양하고 분산되어야 한다는 방향을 추구하고 있습니다.
이러한 목표를 달성하기 위해 연구팀은 여러 기술적 방향을 추구하고 있습니다. 여기에는 멀티모달 상호작용 및 사용자 정의(customizability) 능력을 발전시키는 강력한 모델 훈련, 모델 가중치를 훈련할 수 있는 도구 개발, 그리고 인간과 기계 간의 소통 채널을 넓혀 개인적인 판단이 AI의 작업에 지속적으로 영향을 미치도록 하는 인터페이스 개발 등이 포함됩니다.
궁극적으로 AI는 사람들이 수행하는 작업에서 발생하는 암묵적이고 지역적인 지식을 포착하고 발전시켜야 하며, 이는 중앙 집중식 지능이 아닌 분산된 지식의 집합을 통해 달성될 수 있습니다. AI 정렬은 단일 모델이 아닌, 서로 경쟁하고 학습하는 다양한 AI들이 참여하는 생태계가 되어야 하며, 이는 기술적 도전이자 인간의 선택에 달려 있습니다.
현재 사용되는 대부분의 AI는 특정 환경에서 훈련된 후 고정되어 있으며, 인간이 함께 하는 작업에서 얻는 지식이나 판단을 충분히 반영하지 못하고 있습니다. 따라서 인간의 의지와 판단을 AI에 확장하기 위해서는 AI가 사람들과 마찬가지로 다양하고 분산되어야 한다는 방향을 추구하고 있습니다.
이러한 목표를 달성하기 위해 연구팀은 여러 기술적 방향을 추구하고 있습니다. 여기에는 멀티모달 상호작용 및 사용자 정의(customizability) 능력을 발전시키는 강력한 모델 훈련, 모델 가중치를 훈련할 수 있는 도구 개발, 그리고 인간과 기계 간의 소통 채널을 넓혀 개인적인 판단이 AI의 작업에 지속적으로 영향을 미치도록 하는 인터페이스 개발 등이 포함됩니다.
궁극적으로 AI는 사람들이 수행하는 작업에서 발생하는 암묵적이고 지역적인 지식을 포착하고 발전시켜야 하며, 이는 중앙 집중식 지능이 아닌 분산된 지식의 집합을 통해 달성될 수 있습니다. AI 정렬은 단일 모델이 아닌, 서로 경쟁하고 학습하는 다양한 AI들이 참여하는 생태계가 되어야 하며, 이는 기술적 도전이자 인간의 선택에 달려 있습니다.