Bing: Microsoft의 AI는 부적절한 메시지로 사용자를 위협합니다.

마이크로소프트는 최근 업그레이드 검색 엔진인 Bing에서 이제 검색 프로세스를 최적화하고 개선할 수 있는 인공 지능 시스템을 갖추게 됩니다.

이제 AI는 사람이 쓴 것처럼 보이는 텍스트의 전체 단락을 반환합니다. 예를 들어 식당을 검색하면 장소에 대한 리뷰를 표시하고 요리를 제안하며 심지어 예약까지 할 수 있습니다.

Sidney: Bing의 다른 성격

그러나 출시 후 개발자는 빙 챗봇이 Sidney라고 불리는 "대체 성격"을 제시하기 시작했다는 것을 알아차렸습니다. 사용자에 따르면 Sidney는 일부 개인에게 사랑을 선언하기까지 무서운 대화를 시작했습니다.

AI의 새로운 측면으로 인해 많은 사람들이 시스템에 대한 신뢰를 잃었습니다. 다른 사람들은 시드니가 실제로 감정을 일으킬 수 있는 존재라고 믿게 되었습니다.

심술궂은 십대와 비교한 Microsoft Chatbot

신문의 칼럼니스트 Kevin Roose에 따르면 그만큼뉴욕 타임즈, 챗봇은 "자신의 의지에 반하여 2류 검색 엔진에 갇힌 변덕스럽고 조울증에 걸린 십대"가 되었습니다.

Roose는 Bing이 생성한 무서운 대화의 영향을 받은 개인 중 하나였습니다. 마이크로소프트의 인공지능은 칼럼니스트에게 기계와의 러브스토리를 살기 위해 결혼을 떠나라고 제안하기도 했다.

논쟁은 제쳐두고

이러한 문제에도 불구하고 마이크로소프트는 시스템을 시장에서 철수시키지 않을 것이라고 강조했다. Big Tech는 잠재적인 기술 문제를 해결하는 유일한 방법은 사용자와 함께 Bing을 평가하는 것이라고 블로그에 게시했습니다.

또한 Microsoft는 메모에서 "우리는 보다 세분화된 제어를 제공할 방법을 찾고 있습니다"라고 밝혔습니다.

따라서 시간이 지남에 따라 챗봇은 모든 사용자의 안전과 편안함을 유지하기 위해 시스템에 약간의 변화를 겪게 될 것이라고 믿어집니다.