Meta가 'Hallucinating' AI 모델 Galactica를 중단한 이유

수요일, MetaAI와 Papers with Code는 1,200억 개의 매개변수가 있는 과학적 지식에 대해 훈련된 오픈 소스 대규모 언어 모델인 Galactica의 출시를 발표했습니다. 그러나 출시 며칠 후 Meta는 Galactica를 다운시켰습니다.

흥미롭게도 Galactica에서 생성된 모든 결과는 출력이 신뢰할 수 없을 수 있다는 경고와 함께 제공되었습니다. 언어 모델은 텍스트를 환각시키는 경향이 있습니다.

Galactica는 인류의 과학 지식의 대규모 큐레이팅 코퍼스에 대해 교육을 받았습니다. 여기에는 4,800만 개 이상의 논문, 교과서 및 강의 노트, 수백만 개의 화합물 및 단백질, 과학 웹사이트, 백과사전 등이 포함됩니다.”라고 이 신문은 말했습니다.

검색
검색...
2022년 11월 20일에 게시됨
의견
Meta가 'Hallucinating' AI 모델 Galactica를 중단한 이유는 무엇입니까?
"현실은 GPT-3 및 Galactica와 같은 대규모 언어 모델이 도자기 가게의 황소와 같으며 강력하지만 무모하다는 것입니다."
프리탐 보르돌로이

이 이야기를 들어보세요
수요일, MetaAI와 Papers with Code는 1,200억 개의 매개변수가 있는 과학적 지식에 대해 훈련된 오픈 소스 대규모 언어 모델인 Galactica의 출시를 발표했습니다. 그러나 출시 며칠 후 Meta는 Galactica를 다운시켰습니다.

흥미롭게도 Galactica에서 생성된 모든 결과는 출력이 신뢰할 수 없을 수 있다는 경고와 함께 제공되었습니다. 언어 모델은 텍스트를 환각시키는 경향이 있습니다.

“갤럭티카는 인류의 과학 지식의 대규모 큐레이팅 코퍼스에 대해 훈련을 받았습니다. 여기에는 4,800만 개 이상의 논문, 교과서 및 강의 노트, 수백만 개의 화합물 및 단백질, 과학 웹사이트, 백과사전 등이 포함됩니다.”라고 이 신문은 말했습니다.

벨라미
최신 기술에 대한 주간 정보에 등록하십시오.
이메일
이메일을 입력하세요
Galactica는 과학 지식의 적절한 구성이 없는 검색 엔진을 통해 과학 정보에 액세스할 때 정보 과부하 문제를 해결하도록 설계되었습니다.

그러나 커뮤니티 회원들이 Meta의 완전히 새로운 AI 모델을 사용하기 시작했을 때 많은 사람들이 그 결과가 의심스럽다는 것을 알게 되었습니다. 사실, 많은 사람들이 Galactica가 제시한 결과가 실제로 매우 부정확하다고 지적하기 위해 Twitter를 방문했습니다.

Google의 수석 연구 과학자인 Alex Polozov는 Galactica를 환각, 귀인 및 정렬 연구를 위한 적대적 사례의 끝없는 출처라고 불렀습니다.