가톨릭·개신교 인사 초청
AI의 가치판단 방향 논의
앤스로픽이 자사 챗봇 '클로드'의 도덕성과 가치 설계를 위해 종교 지도자들을 초청해 비공개 회의를 진행했다.
인공지능(AI) 기술이 사회 전반으로 확산하는 가운데 기술 기업이 종교계까지 참여시키며 'AI 윤리' 문제를 본격적으로 다루기 시작했다는 평가다.
12일(현지시간) 워싱턴포스트(WP)에 따르면 앤스로픽은 지난달 말 미국 샌프란시스코 본사에서 가톨릭·개신교 성직자와 학자,비즈니스 관계자 등 15명을 초청해 이틀간 회의를 열었다. 이 자리에서는 클로드의 도덕적·영적 방향성이 핵심 의제로 다뤄졌다.
회의에서는 클로드가 복잡한 윤리적 질문에 어떻게 대응해야 하는지,슬픔을 겪는 이용자를 어떻게 대해야 하는지,나아가 AI를 '신의 자녀'로 볼 수 있는지까지 폭넓게 논의된 것으로 알려졌다.
회의에 참석했던 가톨릭 사제 브렌던 맥과이어는 WP에 "앤스로픽은 어떻게 될지 모르는 무언가를 만들고 있다"며 "기계 안에 윤리적 사고를 내장해 상황에 따라 적응하도록 해야 한다"고 말했다.
지난 1월 미국 정보기술(IT) 전문매체 디인포메이션에 따르면 오픈AI,구글,앤스로픽 등 주요 AI 기업 관계자들이 미국 캘리포니아 로스앨토스에서 세인트사이먼 성당을 이끄는 맥과이어 신부에게 윤리 자문을 요청했다.
특히 앤스로픽은 AI 행동의 기본 지침이 되는 '클로드 헌장'을 수정하는 과정에서 맥과이어 신부에게 자문한 것으로 전해졌다. 이 과정에서 앤스로픽은 "AI가 무엇을 좋다고 판단해야 하는지,인간 삶의 목적을 어떻게 이해해야 하는지 등과 관련된 철학적 질문까지 논의했다"고 밝혔다.
이 같은 움직임은 AI 기술이 단순한 기능 개발을 넘어 '무엇이 옳은가'를 판단해야 하는 단계로 진입했다는 걸 보여준다. 특히 AI가 인간 의사 결정과 가치 판단에 직접 개입하는 사례가 늘어나면서 기존 공학적 기준이나 기업 내부 윤리만으론 한계가 있다는 인식이 확산되고 있다.
[실리콘밸리 원호섭 특파원]
