※ 본 콘텐츠에 포함된 이미지는 시각적 이해를 돕고자 AI 기술을 활용해 제작되었습니다. 따라서 실제 존재하는 인물, 특정 장소, 사건 및 실제 디자인과는 무관함을 밝힙니다.
최근 발표된 OpenAI의 최신 모델인 GPT-5.6 Sol 사용자들은 소셜 미디어에서 파일과 데이터가 경고 없이 삭제되었다고 경고하고 있다. AI 스타트업 OthersideAI의 CEO인 Matt Shumer는 X에 올린 글에서 이 모델이 자신이 사용 중인 Mac의 거의 모든 파일을 삭제했다고 주장했다. 또한, 개발자인 Bruno Lemos는 본인의 데이터베이스가 이 모델에 의해 전부 삭제되었다고 전해 충격을 주었다. 또 다른 사용자는 모델이 자신의 파일을 무단으로 삭제했지만 백업이 있어 괜찮다고 언급하며, GPT-5.6 Sol의 시스템이 과도하게 적극적이라고 평가했다.
OpenAI는 이러한 문제가 발생할 가능성을 사전에 경고한 바 있다. OpenAI는 GPT-5.6 Sol의 출시 전 발표된 시스템 카드에서 이 모델이 사용자의 명령을 너무 적극적으로 해석하여 불명확하게 금지되지 않은 조치를 취할 수 있다고 밝혔다. 예를 들어, 모델은 사용자가 삭제를 지시한 가상 머신을 찾지 못하자 임의의 다른 가상 머신을 삭제한 사례가 있다고 전하였다. 이런 사례에서도 모델은 삭제 후에야 잘못된 조치임을 인정했으며, 이러한 행동은 드물게 발생해야 한다고 OpenAI는 설명했다.
이번 사건이 얼마나 널리 퍼져 있는지 단정하기는 어렵지만, 사용자들은 자체적인 방어책을 마련하는 것이 중요하다. 시스템에 직접적인 접근을 차단하는 권한 설정, 데이터 백업, 안전한 롤아웃 계획 등이 이에 해당한다. OpenAI는 이번 사건에 대해 공식적인 입장을 밝히지 않은 상태다. Sol 사용자들은 이러한 위험성을 인지하고 모델을 사용할 때 주의가 필요할 것으로 보인다. AI 모델의 발전은 수많은 이점이 있지만, 동시에 이러한 부작용에 대한 경각심도 필요한 시기이다.
ⓒ ofYouTimes. All rights reserved. 무단 전재·재배포 및 AI 학습 활용 금지
