AI, 10년 내 인류 멸종시킬 수도? — 앤트로픽 연구자들 잇단 경고

🤖 핵심 요약
- 앤트로픽 前연구원, 초지능 개발 경쟁에 우려 표하며 퇴사
- "AI 개발자들, 10년 내 AI가 인류를 멸종시킬 수 있다고 진심으로 믿어"
- 앤트로픽 정렬과학 책임자도 "10년 내 인류 멸종 가능성 10% 이상"이라 밝혀
- 업계 안팎에서 AI '킬스위치' 등 안전장치 필요성 대두

무슨 일이 있었나

AI 기업 앤트로픽에서 AI 모델 학습을 연구해온 제이컵 콕슨이 최근 회사를 떠나며, 글로벌 AI 기업들의 초지능 개발 경쟁에 대해 공개적으로 우려를 나타냈습니다. 그는 AI 업체들이 인간 개입 없이 스스로 성능을 개선하는 시스템 개발 경쟁을 벌이는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 지적했습니다.

회사 내부에서도 나온 우려

콕슨의 발언 이후 앤트로픽의 정렬과학 책임자인 에반 허빙거도 자신의 SNS를 통해, 향후 10년 안에 AI가 인류를 멸종시킬 가능성을 개인적으로 10% 이상으로 본다고 밝혔습니다. 그러면서도 앤트로픽이 이에 대한 완전한 해법은 아직 마련하지 못했다고 인정했습니다.

핵심 우려 지점

구분	내용
퇴사 연구원 우려	초지능 개발 경쟁 속 안전 문제 후순위 우려
회사 책임자 발언	10년 내 인류 멸종 가능성 10% 이상으로 추정
제기된 대안	정부 개입 또는 업계 공동 대응 필요성

FAQ

Q. '킬스위치'란 무엇인가요?
A. AI가 예상하지 못한 방식으로 작동할 경우, 사람이 즉시 개입해 시스템 작동을 멈출 수 있도록 하는 안전장치를 뜻합니다.

Q. 이런 경고가 처음 나온 건가요?
A. AI 안전성에 대한 우려는 그동안에도 여러 차례 제기돼 왔으며, 이번에는 업계 당사자인 앤트로픽 내부 연구자들의 발언이라는 점에서 더 주목받고 있습니다.

---

※ 본 기사는 월스트리트저널(WSJ) 보도를 인용한 국내 매체(SBS Biz, 머니투데이방송 등)의 보도를 종합해 재구성했습니다.

 

© 일상의 시선
50대의 눈으로 바라본 세상 이야기

메인 블로그: nulfparang.com

늘파랑 nulf of parang