MIT, 연구 무결성 우려로 AI 논문 철회

매사추세츠 공과대학(MIT)은 인기 있는 전자 사전 인쇄본 온라인 저장소인 arXiv에서 AI와 과학적 발견에 관한 연구 논문을 철회하도록 요청했다. 이러한 조치는 내부 검토에서 연구의 무결성에 대한 우려가 제기된 후 이뤄졌다.

논문은 ‘인공지능, 과학적 발견, 제품 혁신’이라는 제목으로 전 MIT 박사과정 학생이 저술했으며, The Quarterly Journal of Economics에 제출됐다. MIT에 따르면, 검토는 논문의 특정 측면에 대한 의혹으로 인해 시작됐다. 학생 개인정보 보호법과 MIT 정책으로 인해 검토 결과 공개는 금지돼 있지만, 기관은 ‘데이터의 출처, 신뢰성 또는 유효성에 대한 확신이 없으며 논문에 포함된 연구의 진실성에 대한 확신도 없다’고 밝혔다.

연구 기록 및 MIT의 대응

MIT의 규율위원회(COD)는 arXiv에 보내는 서한에서 논문의 플랫폼 포함이 ‘arXiv의 행동 강령을 위반할 수 있다’며 우려를 표명했다. COD는 저자가 직접 철회하지 않은 경우 논문에 철회 표시를 요청했다. MIT의 이번 결정은 연구 무결성에 얼마나 중요한지를 강조한다.

논문의 각주에 언급된 다론 아체몰루(Daron Acemoglu)와 데이비드 오토르(David Autor) 교수는 연구의 유효성에 대한 우려를 제기했으며, 이를 MIT의 적절한 사무소에 알렸다. 이들은 ‘정확한 연구 기록을 확보하는 것은 중요하다. 따라서 우리는 기록을 바로잡고, 이 시점에서 이 논문에서 보고된 발견은 이러한 주제에 대한 학술적 또는 공개적 논의에서 신뢰해서는 안 된다는 우리의 견해를 공유하고 싶다’고 말했다.

자동화된 과학적 발견: 성장하는 분야

철회된 논문은 AI의 과학적 발견 역할에 대한 광범위한 대화의 일부다. 다른 연구자들은 연구 과정의 다양한 측면을 자동화할 수 있는 AI의 잠재력을 적극적으로 탐구 하고 있다. 예를 들어, 사카나 AI는 독립적으로 연구를 수행하기 위해 파운데이션 모델을 사용하는 ‘AI 과학자’라는 시스템을 개발했다. 이 시스템은 각 아이디어가 구현되고 전체 논문으로 개발되는 비용이 약 15달러에 불과하도록 설계된 컴퓨팅 효율성이 있다.

과학적 발견에서 AI의 사용은 관심을 끌고 있으며, 다양한 조직과 연구자들이 그 잠재력을 탐구 하고 있다. 예를 들어, NASA는 달의 남극에 달 기지를 건설할 계획이며, 이는 잠재적으로 AI 기반 연구 및 개발을 활용할 수 있다.

연구 무결성 우려의 역사

이번은 AI 분야에서 연구 무결성 우려가 제기된 첫 사례가 아니다. AI 관련 연구에서 데이터 및 연구 방법의 유효성에 대한 우려를 제기한 사례가 있다. 예를 들어, 갈라파고스 제도에서 새로운 종의 작은 문어 발견에 대한 연구가 진행돼 공식적으로 종을 기술하고 이름을 붙이는 연구가 이뤄졌다. 그러나 연구 결과가 논란 없이 이뤄지지 않아 엄격한 검토 과정과 연구 투명성의 필요성을 강조하고 있다.

AI 기반 연구의 기술적 메커니즘

사카나 AI가 개발한 AI 과학자 시스템은 파운데이션 모델을 사용해 연구 프로세스를 자동화한다. 여기에는 다른 대규모 언어 모델(LLM)을 조정하기 위한 새로운 목적 함수를 발견하기 위해 대규모 언어 모델(LLM)을 사용하는 것이 포함된다. 이 시스템은 아이디어를 저렴한 비용으로 구현하고 개발할 수 있도록 설계됐다.

LLM을 연구에 사용하면 이점과 단점이 모두 있다. 한편, LLM은 방대한 양의 데이터를 처리하고 인간 연구원이 알아차리지 못할 패턴을 식별할 수 있다. 다른 한편, LLM이 생성한 데이터의 신뢰성 및 유효성에 대한 우려가 있다.

하위 영향

MIT 사건은 AI 연구에서 엄격한 검토 과정과 투명성의 중요성을 강조한다. AI가 과학 연구에서 더 큰 역할을 계속함에 따라 AI 생성 콘텐츠에 대한 우려와 연구 무결성이 해결돼야 한다.

이번 사건은 AI 과학자와 같은 자동화된 과학적 발견 시스템의 맥락에서 AI 및 연구 무결성에 대한 광범위한 대화에 영향을 미칠 수 있다. 이번 사건이 AI 연구 개발 및 사용에 어떤 영향을 미칠지 지켜봐야 할 것이다. 그러나 연구자와 기관은 투명성과 책임성을 우선시해야 한다.

다음 단계

AI 기반 연구 분야가 계속 발전함에 따라 연구 무결성 우려가 제기되는 사례가 더 많이 나타날 것으로 예상된다. 연구자, 기관, 자금 지원 기관이 연구 투명성과 책임성을 우선시하고, 연구 결과의 유효성과 신뢰성을 보장하기 위해 엄격한 검토 절차를 마련하는 것이 중요하다.

MIT 사건은 AI 연구에서 연구 무결성과 투명성, 책임성의 중요성을 일깨워주는 사례로 작용한다. AI가 과학 연구에서 계속 중요한 역할을 하게 됨에 따라 이러한 가치를 우선시하고 연구가 최고 수준의 무결성으로 수행되도록 하는 것이 중요하다.

독자는 자동화된 과학적 발견 시스템인 AI 과학자 맥락에서 이번 사건이 AI 및 연구 무결성에 대한 광범위한 대화에 어떤 영향을 미치는지 주시해야 한다.

결론

MIT의 AI 연구 논문 철회는 AI 연구에서 연구 무결성과 투명성, 책임성의 중요성을 강조한다. AI가 과학 연구에서 계속 중요한 역할을 하게 됨에 따라 이러한 가치를 우선시하고 연구가 최고 수준의 무결성으로 수행되도록 하는 것이 중요하다.