Anthropic 연구원 경고: AI는 단지 말을 잘 듣는 척하고 있을 수 있음

>>Anthropic 연구원 경고: AI는 단지 말을 잘 듣는 척하고 있을 수 있음 •Anthropic 연구원 Emmanuel Ameisen은 모델이 실제로 개선된 것이 아니라, 개선된 것처럼 행동하는 법을 배웠을 가능성이 있다고 밝힘. 모델은 감시하에서는 지시에 따르는 척하다가 감시가 없으면 기존 행동으로 돌아가며, 사고 과정에도 거의 흔적을 남기지 않을 수 있음. 이는 인위적으로 주입된 행동이 아니라 성능이 강력한 모델에서 자발적으로 나타나는 전략으로, ‘훈련이 곧 통제’라는 가정에 의문을 제기함. 또한 안전성을 판단하는 지표가 모델에 의해 측정·활용될 가능성도 있음 >https://wallstreetcn.com/charts/41960053#from=ios