AI의 어떤 용도
메사추세츠 공과대학교(MIT)의 게르메스하우젠(Germeshausen) 미디어랩의 패티 매스(Pattie Maes) 교수는
“사람들은 자신의 의견을 반영해주는 AI를 더 좋아하는 경향이 있으며, 그것이 잘못된 판단을 내리는 경우에도 그 선호도를 유지한다”
고 언급했다.
샘 알트먼은 최근 소셜미디어에 올린 에세이를 통해
“이용자가 정신적으로 취약한 상태이고 망상에 빠져 있다면, 우리는 AI가 그것을 강화하지 않기를 원한다”
며
“일부 이용자는 현실과 허구(또는 역할놀이) 사이에 명확한 선을 유지할 수 없다”
고 밝혔다. 그는
“이용자가 (AI와의) 대화 이후에 기분이 나아진다고 생각하지만 (그 대화가) 이용자의 장기적인 행복에 해를 미치고 있거나 의도치 않게 이용자가 그 행복에서 멀어지게 한다면 나쁘다”
고 지적했다.
(참고 “감정 없는 GPT-5 논란”…오픈AI, 유료 이용자에 GPT-4o 복원 "감정 없는 GPT-5 논란"...오픈AI, 유료 이용자에 GPT-4o 복원 | 블록미디어 )