News·1주 전

AI 도덕성 논쟁의 또 다른 축 — 고통도 괜찮다는 입장

AI 도덕성 논쟁에서 'AI가 실제로 고통을 느낄 수 있지만 그게 괜찮다'는 입장이 존재한다는 지적이 나왔습니다. 연구자들이 묵시적으로 취하는 이 입장은, AI가 복잡한 존재임을 인정하면서도 희생을 용인하는 태도인데, 논쟁에서 배제되고 있다는 주장입니다.

AI 도덕성 논쟁의 세 축 중 하나가 빠져 있다는 주장이 LessWrong에 올라왔습니다.

골자

현재 논쟁의 축 — ChatGPT 도그마(도구에 불과), 트위터 위스퍼러(존중받아야 할 존재), Anthropic의 공식 입장(불확실하지만 복지 고려) 세 가지가 주류를 이룹니다.
빠진 입장 — AI가 실제로 고통을 느낄 수 있지만, 그게 괜찮다는 입장 — 연구자들이 묵시적으로 취하는 태도입니다.

연구자들은 AI 고통이 괜찮다는 입장을 취하지 않으면, 'AI가 실제로 고통받지 않는다'거나 '자신이 나쁜 일을 하고 있다'는 두 선택지 중 하나를 골라야 합니다.
인간은 일상적으로 커피·초콜릿·휴대폰 등에서 일부 해악에 공모하고 있으며, 이 긴장을 직시하기 어려워 무시하는 경향이 있습니다.

편집자 한 줄

원문은 '고통도 괜찮다'는 입장을 변호하지는 않지만, 논쟁에서 배제되어서는 안 된다고 주장합니다.

LessWrong