MIT retira artigo de pesquisa de IA em meio a preocupações com integridade

MIT retira artigo de pesquisa de IA citando preocupações com integridade

O Instituto de Tecnologia de Massachusetts (MIT) solicitou a retirada de um artigo de pesquisa sobre IA e descoberta científica do arXiv, um repositório online popular de pré-impressões eletrônicas. A medida foi tomada após uma revisão interna levantar preocupações sobre a integridade da pesquisa.

O artigo, intitulado ‘Inteligência Artificial, Descoberta Científica e Inovação de Produto’, foi escrito por um ex-aluno de doutorado do MIT e havia sido submetido ao The Quarterly Journal of Economics. De acordo com o MIT, a revisão foi motivada por alegações sobre certos aspectos do artigo. Embora as leis de privacidade de alunos e a política do MIT proíbam a divulgação do resultado da revisão, o instituto afirmou que não tem ‘confiança na proveniência, confiabilidade ou validade dos dados e não tem confiança na veracidade da pesquisa contida no artigo.‘

O registro de pesquisa e a resposta do MIT

Em uma carta ao arXiv, o Comitê de Disciplina do MIT (COD) expressou preocupações de que a inclusão do artigo na plataforma ‘possa violar o Código de Conduta do arXiv.’ O COD solicitou que o artigo fosse marcado como retirado, pois o autor não o havia feito.

A decisão do MIT de tomar essa medida destaca a importância que ele dá à integridade da pesquisa.

Os professores Daron Acemoglu e David Autor, que foram reconhecidos em uma nota de rodapé no artigo, afirmaram que tinham preocupações sobre a validade da pesquisa, que eles levaram ao conhecimento do escritório apropriado do MIT. ‘Garantir um registro de pesquisa preciso é importante para o MIT,’ disseram eles. ‘Portanto, gostaríamos de acertar o registro e compartilhar nossa visão de que, neste momento, os achados relatados neste artigo não devem ser confiáveis em discussões acadêmicas ou públicas sobre esses tópicos.‘

Descoberta científica automatizada: um campo em crescimento

O artigo retirado faz parte de uma conversa mais ampla sobre o papel da IA na descoberta científica. Outros pesquisadores estão ativamente explorando o potencial da IA para automatizar vários aspectos do processo de pesquisa. Por exemplo, a Sakana AI desenvolveu um sistema chamado The AI Scientist, que usa modelos de base para realizar pesquisas de forma independente. O sistema é projetado para ser computacionalmente eficiente, com cada ideia implementada e desenvolvida em um artigo completo a um custo de aproximadamente $ 15.

O uso da IA na descoberta científica vem ganhando força, com várias organizações e pesquisadores explorando seu potencial. A NASA, por exemplo, está planejando construir uma base lunar no Polo Sul da Lua, que poderia potencialmente utilizar pesquisa e desenvolvimento impulsionados por IA.

Histórico de preocupações com integridade de pesquisa

Não é a primeira vez que preocupações com a integridade da pesquisa são levantadas no campo da IA. Houve casos de pesquisadores levantarem preocupações sobre a validade dos dados e métodos de pesquisa usados em estudos relacionados à IA. Por exemplo, uma nova espécie de polvo foi descoberta nas Ilhas Galápagos, e um estudo foi realizado para descrever e nomear formalmente a espécie. No entanto, os achados do estudo não estavam isentos de controvérsia, destacando a necessidade de processos de revisão rigorosos e transparência na pesquisa.

Mecânica técnica da pesquisa impulsionada por IA

O sistema The AI Scientist desenvolvido pela Sakana AI usa modelos de base para automatizar o processo de pesquisa. Isso envolve o uso de grandes modelos de linguagem (LLMs) para descobrir novas funções objetivas para ajustar outros LLMs. O sistema é projetado para ser altamente eficiente, permitindo a implementação e o desenvolvimento de ideias a um baixo custo.

O uso de LLMs em pesquisa mostrou ter benefícios e desvantagens. Por um lado, os LLMs podem processar grandes quantidades de dados e identificar padrões que podem não ser aparentes para os pesquisadores humanos. Por outro lado, há preocupações sobre a confiabilidade e validade dos dados gerados por LLMs.

Implicações downstream

O incidente do MIT destaca a importância de processos de revisão rigorosos e transparência na pesquisa de IA. À medida que a IA continua a desempenhar um papel maior na pesquisa científica, preocupações sobre a integridade da pesquisa e o potencial de conteúdo gerado por IA precisarão ser abordadas.

O incidente pode ter implicações para a conversa mais ampla sobre IA e integridade de pesquisa, particularmente no contexto de sistemas de descoberta científica automatizados como The AI Scientist. Resta a ser visto como esse incidente afetará o desenvolvimento e o uso de IA em pesquisa, mas é claro que pesquisadores e instituições devem priorizar transparência e responsabilidade.

O que vem a seguir

À medida que o campo da pesquisa impulsionada por IA continua a evoluir, é provável que vejamos mais casos de preocupações com a integridade da pesquisa sendo levantadas. É essencial que pesquisadores, instituições e agências de financiamento priorizem transparência e responsabilidade em pesquisa, e que processos de revisão rigorosos sejam colocados em prática para garantir a validade e confiabilidade dos achados de pesquisa.

O incidente do MIT serve como um lembrete da importância da integridade da pesquisa e da necessidade de transparência e responsabilidade na pesquisa de IA. À medida que a IA continua a desempenhar um papel maior na pesquisa científica, é crucial que priorizemos esses valores e garantamos que a pesquisa seja conduzida com o mais alto nível de integridade.

O leitor deve acompanhar como esse incidente afeta a conversa mais ampla sobre IA e integridade de pesquisa, particularmente no contexto de sistemas de descoberta científica automatizados como The AI Scientist.

Conclusão

Em conclusão, a retirada do artigo de pesquisa de IA pelo MIT destaca a importância da integridade da pesquisa e da necessidade de transparência e responsabilidade na pesquisa de IA. À medida que a IA continua a desempenhar um papel maior na pesquisa científica, é essencial que priorizemos esses valores e garantamos que a pesquisa seja conduzida com o mais alto nível de integridade.