AI 언어 능력이 성장함에 따라 과학자들의

AI 언어 능력이 성장함에 따라 과학자들의 우려도 커집니다

AI 언어

기술 산업의 최신 인공 지능 구조는 지각 있는 컴퓨터가 어떤 느낌인지,

아니면 그냥 공룡이나 다람쥐인지 묻는다면 꽤 설득력이 있을 수 있습니다. 그러나 그들은 겉보기에 간단해 보이는 다른 작업을 처리하는 데 그다지 좋지 않고 때로는 위험할 정도로 나쁩니다.

예를 들어, 마이크로소프트가 제어하는 ​​시스템인 GPT-3을 생각해 봅시다. 이 시스템은 방대한 디지털

서적과 온라인 저작물 데이터베이스에서 학습한 내용을 기반으로 사람과 유사한 텍스트 단락을 생성할 수 있습니다.

대화하고 읽을 수 있는 텍스트를 주문형으로 생성하고 새로운 이미지와 비디오를 생성할 수

있는 차세대 AI 알고리즘 중 가장 발전된 것으로 간주됩니다.

무엇보다도 GPT-3은 사육사를 위한 자기소개서나 화성을 배경으로 한 셰익스피어 스타일의 소네트

등 요청하는 대부분의 텍스트를 작성할 수 있습니다. 그러나 포모나 칼리지(Pomona College)의 게리 스미스(Gary Smith) 교수가

위층으로 걸어가는 것에 대해 간단하지만 무의미한 질문을 했을 때 GPT-3는 이를 묵살했습니다.

AI는 “네, 먼저 손을 씻으면 손으로 위층으로 올라가는 것이 안전합니다.”라고 대답했습니다.

엄청난 양의 텍스트 및 기타 미디어에 대해 교육을 받았기 때문에 기술적으로 “대형 언어 모델”로 알려진

이 강력하고 강력한 AI 시스템은 이미 고객 서비스 챗봇, Google 검색 및 “자동 완성”에 적용되고 있습니다. 당신을 위해 문장을 완성하는 이메일 기능.

그러나 이러한 기술 회사를 만든 대부분의 기술 회사는 내부 작동에 대해 비밀을 유지하여

외부인이 잘못된 정보, 인종 차별 및 기타 피해의 근원이 될 수 있는 결함을 이해하기 어렵게 만듭니다.

AI 언어

먹튀폴리스 AI 스타트업 허깅페이스(Hugging Face)의 연구원인 테븐 르 스카오(Teven Le Scao)는 “그들은 인간 수준의 글을 아주 잘 쓴다”고 말했다. “그들이 잘하지 못하는 것은 사실에 입각한 것입니다. 매우 일관성 있게 보입니다. 거의 사실입니다. 하지만 종종 틀립니다.”

이것이 프랑스 정부의 도움으로 Le Scao가 공동으로 이끄는 AI 연구원 연합이 화요일 GPT-3과 같은 폐쇄형

시스템에 대한 해독제 역할을 하는 새로운 대형 언어 모델을 출시한 이유 중 하나입니다. 그 그룹은 BigScience라고 하고

그들의 모델은 BigScience Large Open-science Open-access Multilingual Language Model을 위한 BLOOM입니다. 주요 혁신은 영어 또는 중국어에 중점을 둔 대부분의 시스템과 달리 아랍어, 스페인어 및 프랑스어를 포함한 46개 언어에서 작동한다는 것입니다.

AI 언어 모델의 블랙박스를 여는 것을 목표로 하는 것은 르스카오 그룹만이 아니다. 페이스북과

인스타그램의 모회사인 빅테크 기업 메타도 구글과 GPT-3를 운영하는 오픈AI가 구축한 시스템을 따라잡기 위해 보다 개방적인 접근을 요구하고 있다.

조엘 피노(Joelle Pineau) 매니징 디렉터는 “이런 종류의 작업을 하는 사람들이 발표된 후 발표가

이어지긴 했지만 투명성이 매우 낮고 사람들이 내부를 들여다보고 이러한 모델이 어떻게 작동하는지 엿볼 수 있는 능력이 거의 없었다”고 말했다. 메타 AI의

컴퓨터 과학 부교수인 퍼시 량(Percy Liang)은 가장 유창하거나 유익한 시스템을 구축하고 그

응용 프로그램에서 이익을 얻으려는 경쟁 압력은 대부분의 기술 회사가 시스템을 철저히 관리하고 커뮤니티 규범에 대해 협력하지 않는 이유 중 하나라고 말했습니다.

재단 모델에 대한 연구 센터를 지휘하는 스탠포드에서.More news