효과적 이타주의와 위험 경고에 대한 비판
- LeCun은 AI 안전 분야 종사자 중 다수가 특정 의제를 추진한다고 비판하며, 그 대상으로 효과적 이타주의(EA) 를 지목함
- EA는 AI가 인류에 가하는 위험에 큰 관심을 기울여 온 철학 운동임
- 전 Anthropic 및 OpenAI 연구자 Jacob Coxon이 두 회사 직원들은 AI가 2020년대 말까지 인류를 죽일 수 있다고 진지하게 믿는다는 게시물을 올린 뒤, 최근 대중적 관심이 커짐
- EA를 “매우 유독하다”, “완전한 재앙”이라고 비난하며, AI 연구소 내 지지자들의 편집증적 공포가 잘못된 판단을 유발한다고 평가함
- Financial Times 보도에 따르면, 영국 AI Security Institute, OpenAI, Anthropic, Google DeepMind의 일부 직원은 자신의 연구가 심각한 피해를 초래할 수 있다는 두려움으로 상담을 받거나 휴직하고, 고통을 공개적으로 털어놓음
- Dario Amodei와 Anthropic 창립 구성원 다수는 EA에 우호적이고 과거 관련 행사에 참석한 것으로 알려져 있으나, Amodei는 자신이 EA 신봉자라는 점을 부인하며 Anthropic은 직원들의 견해가 다양하다고 밝힘
- 공동창업자이자 사장인 Daniela Amodei는 EA 성향 자선단체 두 곳을 공동 설립한 Holden Karnofsky와 결혼했으며, 그중 하나가 Open Philanthropy, 현재의 Coefficient Giving임
- Karnofsky는 2017~2021년 OpenAI 이사회에도 참여함
효율적 이타주의자들에게는 그의 공감이 필요 없었다. 그들 자신조차 자신의 감정을 중요하게 여기지 않았다. 그들은 오로지 자기 삶의 효용성을 극대화하는 것에 관심을 쏟는 반면에 감정의 영향을 최소화하려 했다. “그들은 결정을 숫자로 요약하는 능력에 감정이 방해된다고 여기는 것처럼 보였다. 애인을 만들어야 하는가? 라고 질문하면 그들은 비용 편익 분석을 했다. 효율적 이타주의자들은 그런 접근을 즐겼다.”
- 책 ‘고잉 인피니트’ 중