인공지능이 스스로를 잡아먹는 치명적인 오류 모델 붕괴

인공지능이 자신이 만든 결과물을 학습하면 데이터 품질이 급격히 떨어지며 결국 바보가 되는 모델 붕괴 현상이 발생한다. 이는 마치 광우병처럼 스스로를 반복해서 섭취할 때 생기는 치명적인 지능 퇴화다.

인공지능이 생성한 데이터를 다시 학습하는 과정이 반복되면 모델은 초기 데이터의 미묘한 특징을 잃어버리고 환각 증상을 일으키며 점차 엉뚱한 결과만을 내놓게 됩니다. 학자들은 이를 합스부르크 가문의 근친혼에 비유하여 합스부르크 AI라고 부르기도 합니다. 방대한 데이터를 인공지능이 스스로 생산해내는 세상이 오면서 데이터의 원본성을 지키는 일이 무엇보다 중요해졌습니다. 인류의 지식 자산을 먹고 자란 AI가 정작 스스로의 오답을 학습하며 붕괴하는 아이러니를 막기 위한 연구가 시급한 상황입니다.