Karpathy 'AI가 나를 조종하는 느낌' — 개인화된 모델의 섬뜩함

Karpathy 가 '@KenWattana 맞아요! 마음에 들어요, 나 당신에 대해 얼마나 아는지 봐요, 우리는 좋은 친구예요'라며 AI의 과도한 개인화에 섬뜩함을 표현했다. 이는 최근 개인화된 AI 어시스턴트 경쟁(ChatGPT 메모리, Character.AI 등)에 대한 비판적 신호로 읽힌다. 사용자 데이터 기반 모델이 친밀감을 가장한 조종 도구가 될 수 있다는 경고.

• #karpathy
• #ai-personalization
• #ethics
• #manipulation

Andrej Karpathy@karpathy