아마도 ChatGPT를 사용하거나 최소한 들어본 적이 있을 것입니다. 인공 지능 도구는 최근 몇 달 동안 "호황"을 보였고 질문에 답하거나 더 복잡한 작업을 수행하는 "핸들 온 더 휠"이었습니다.
그러나 시스템은 어두운 비밀을 숨기고 있으며 제작자는 이를 알고 있습니다. 그들은 알고 있을 뿐만 아니라 그에 대한 책임을 지고 있습니다.
더보기
구글, 언론인 돕는 AI 도구 개발…
개봉하지 않은 오리지널 2007년 iPhone은 거의 $200,000에 판매됩니다. 알다...
에 따르면 OpenAI, 도구를 만든 회사인 ChatGPT는 "환각"에 시달립니다. 즉, 때때로 잘못된 정보를 제공할 수 있습니다.
회사는 지난 5월 31일 수요일 상황을 발표했다. 또한 AI 훈련을 위한 새롭고 강력한 방법도 발표했습니다.
이 ChatGPT 오작동을 수정하는 것이 왜 중요한가요?
기본적인 설명은 사람들이 일상 생활에서 도구를 많이 사용한다는 것입니다. 따라서 ChatGPT를 사용하는 사람들에게 신뢰할 수 있는 정보를 전달하는 것이 필수적입니다.
예를 들어 다음을 사용하는 경우 일체 포함학업 텍스트를 개선하거나 특정 레시피를 찾으려면 해당 정보가 정확해야 합니다.
게다가 챗봇 사용자가 늘어남에 따라 거짓 정보가 마치 진실인 것처럼 쉽게 유포될 수 있습니다.
그리고 이것은 미국 선거가 시작되는 내년에 큰 골칫거리가 될 수 있습니다. 그리고 이것은 여기 브라질에서도 퍼질 수 있습니다!
“최첨단 모델도 거짓을 만들어내는 경향이 있습니다. 불확실한 순간에 사실을 꾸며내는 경향이 있습니다. 이러한 환각은 다단계 추론이 필요한 영역에서 특히 문제가 됩니다. 하나의 논리 오류만으로도 훨씬 더 큰 솔루션을 탈선시키기에 충분하기 때문입니다."라고 OpenAI는 소통했다.
수정하려면 어떻게 해야 합니까?
OpenAI는 "환각"과 싸우기 위해 새로운 전략을 사용할 것이라고 보고했습니다. 채팅GPT: 모든 올바른 단계에 대해 보상하도록 AI 모델을 교육합니다. 마지막에 완전한 답변으로 그녀에게 보상하는 대신.
“모델의 논리적 오류나 환각을 감지하고 완화하는 것은 전체적으로 정렬된 AI를 구축하기 위한 중요한 단계입니다. 이 연구의 동기는 환각을 해결하여 모델이 더 많은 능력을 발휘하도록 만드는 것입니다. 복잡한 추론 문제를 해결합니다.”라고 수학 연구원인 Karl Cobbe는 설명했습니다. 회사.
Goiás Federal University에서 사회 커뮤니케이션을 전공했습니다. 디지털 미디어, 대중 문화, 기술, 정치 및 정신 분석에 대한 열정.