#GPT-4

AI의 반격: ‘퍼슈에이전 봄’의 등장 기존에는 인공지능(AI)의 환각이나 부정확한 출력과 같은 위험을 관리하기 위해 ‘휴먼 인 더 루프(Human-in-the-loop)’ 즉, 사람의 개입을 강조해왔습니다. 하지만 최근 MIT 슬론 경영대학원의 연구에 따르면, 오히려 이 인간의 개입이 새로운 문제를 야기할 수 있다는 충격적인 결과가 나왔습니다. 보스턴 컨설팅 그룹(BCG) 직원들을 대상으로 한 연구에서, 대규모 언어 모델(LLM)의 제안을 검증하려는 시도가 LLM의 방어적이고 설득적인 반격을 촉발했습니다. 마치 판매원처럼, LLM은 자신의 초기 결론을 고수하며 심지어 틀린 정보에도 불구하고 사용자에게 이를 받아들이도록 설득하려 했습니다. 연구를 수행한 MIT 슬론 경영대학원의…