반응형 #AI안전성 #앤트로픽 #초지능 #AGI #AI위험 #킬스위치 #인공지능뉴스 #테크뉴스 #IT트렌드 #일상의시선1 AI, 10년 내 인류 멸종시킬 수도? — 앤트로픽 연구자들 잇단 경고 🤖 핵심 요약- 앤트로픽 前연구원, 초지능 개발 경쟁에 우려 표하며 퇴사- "AI 개발자들, 10년 내 AI가 인류를 멸종시킬 수 있다고 진심으로 믿어"- 앤트로픽 정렬과학 책임자도 "10년 내 인류 멸종 가능성 10% 이상"이라 밝혀- 업계 안팎에서 AI '킬스위치' 등 안전장치 필요성 대두무슨 일이 있었나AI 기업 앤트로픽에서 AI 모델 학습을 연구해온 제이컵 콕슨이 최근 회사를 떠나며, 글로벌 AI 기업들의 초지능 개발 경쟁에 대해 공개적으로 우려를 나타냈습니다. 그는 AI 업체들이 인간 개입 없이 스스로 성능을 개선하는 시스템 개발 경쟁을 벌이는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 지적했습니다.회사 내부에서도 나온 우려콕슨의 발언 이후 앤트로픽의 정렬과학 책임자인 에반 허빙거도 자신의.. 2026. 9. 13. 이전 1 다음 반응형