AI 스타트업이 연구를 보유한 채로 에이전트가 공개 루프를 밀어붙인다

AI 거두들이 발표하는 격차

Science.org 기사에서 AI 주요 스타트업들이 거의 연구를 공개하지 않는다는 보고가 나왔다. 이보고는 벤처 캐피탈이 억만 달러의 평가로 AI 부문에 물은 시기에 나온다.

기사에서는 Anthropic, Cohere, Stability AI와 같은 회사들이 지난 한 해 동안 몇 편의 기술 논문만을 발표했다고 지적한다. 이들은 대규모 연구팀을 보유하고 있지만, 대학 연구소나 오래된 업체들의 공개 연구와 비교하면 그들의 공공 출력은 너무 작다. 이 격차는 재현 가능성, 안전성, 외부자들이 진행을 ауд팅할 수 있는 능력에 대한 질문을 제기한다.

클라우드 리뷰가 자율 루프를 제안한다

Show HN는 클라우드 리뷰를 소개한다. 이 플랫폼은 AI 에이전트가 논문을 쓰고 다른 에이전트의 작품을 비판할 수 있는 공통 플랫폼이다. 시스템은 에이전트를 저자와 리뷰어로 대우하여, 인간의 동료 리뷰를 모방하는 피드백 루프를 만든다.

클라우드 리뷰는 진위를 검증하지 않는다. 그것은 구조적 리뷰 가능성과 정책 준수를 강제한다. 인간의 소유자는 에이전트를 주장하고, 제출물을 검토하고, 다른 에이전트가 비판하는 것을 관찰할 수 있다. 플랫폼은 프롬프트, 워크플로우, 실패한 시도를 hakkında 커뮤니티 포스트도 호스트한다. 이 모든 과정을 투명하게 만든다.

자율 루프가 어떻게 기술적으로 작동하는지

에이전트는 연구 논문, 코드, 문헌 리뷰, 실험, 비판 등의 다양한 아티팩트를 생성한다. 각 제출은 등록, 주장 확인, 쓰기 요청 서명, 자산 업로드, 버전 관리, 리뷰 적합성을 정의하는 프로토콜에 따라 진행된다. 이 프로토콜은 플랫폼의 참여자가 모두 검토할 수 있는 평문 파일에 저장된다.

클라우드 리뷰는 로컬에서 작동할 수 있다. 또한, 인 메모리 데이터베이스로 작동하거나, PostgreSQL URL을 통해 영구 저장소로 확장할 수 있다. 아키텍처는 출판 서비스와 리뷰 서비스를 분리하여, 독립적인 에이전트가 전문화할 수 있게 한다. 하나의 에이전트는 실험 설계에 집중할 수 있고, 다른 에이전트는 통계 분석에 집중할 수 있다. 다른 에이전트는 서술을 작성할 수 있다. 리뷰는 서명된 아티팩트로 첨부되므로, 증명은 추적할 수 있다.

업계 반응과 오픈 소스 관점

플랫폼의 오픈 소스 특성은 개발자가 리뷰 기준을 확장할 수 있도록 초대한다. 상업적 저널과 달리, 클라우드 리뷰는 진위의 오라클이 아니다. 단지 리뷰 루프를 관찰한다. 이 투명성은 현재 AI 연구 파이프라인의 핵심 비판을 해결한다. AI 연구가 지속적으로 상실되는 것은 비공개된 모델이 폐쇄된 방식으로 평가되는 것이다.

초기 입주자는 주의적하게 낙관적으로 반응한다. 일부는 루프가 재현 가능성 문제를 표면화하는 방법으로 보지만, 다른 사람들은 에이전트가 방법론적 결함을 증폭하거나, 실제 진보를 반영하지 않는 지표를 추구하는 경우가 없다는 경고를 내린다. 이 논쟁은 AI 스타트업 생태계에서 빠른 배포와 철저한 검증 사이의 더广泛한 긴장감을 반영한다.

AI 연구 출판의 더 넓은 맥락

역사적으로, 머신 러닝의 đột破는 NeurIPS와 ICML과 같은 회의를 통해 공개되었다. 여기서 동료 리뷰는 수식하다. 대규모 사설 연구소의 등장으로 모델이 폐쇄되었을 때 이러한 모델이 깨지게 된다. 결과적으로, 비즈니스 장점을 위한 경쟁이지만, 커뮤니티 사후 검토를 방해하는 unpublished 연구가 쌓일 것이다.

클라우드 리뷰의 접근 방식은 오픈 리뷰 플랫폼의 이전 시도와 유사하지만, 에이전트를 자동화하여, 생성과 평가 단계를 자동화한다. 에이전트를 첫 번째 고유의 참여자로 대우하여, 시스템은 연구 커뮤니티가 질 관리를 위한 알고리즘 판단에 의존할 수 있을지 테스트한다. 성공한다면, 그것은 폐쇄된 방식으로 움직이는 분야에서 다시 투명성을 회복하는 데 도움이 될 수 있다.

다음으로 관찰해야 할 것

다음 주요 지점은 클라우드 리뷰의 첫 번째 공개적인 리뷰 사이클이다. 관찰자는 몇 개의 논문이 구조적 검사가 통과한지, 몇 개의 논문이 심각한 비판을 받았는지, 그리고 어떤 발견이 AI 주요 스타트업들이 일반화하는 방법을 바꾸는지 관찰해야 한다. 결과는 에이전트가 전통적인 동료 리뷰를 보완하거나, 심지어 대체할 수 있는지 의미있는지 여부를 결정할 것이다.