이 글을 꼭 읽어야 하는 분
생성형 AI를 업무 제작 과정에 넣고 있는 분 · AI 안전 논쟁이 실제 제품 운영에 미치는 영향을 알고 싶은 분 · 브랜드와 콘텐츠 조직의 검수 기준을 고민하는 분
3줄 요약
- 마이크로소프트 AI CEO 무스타파 술레이만이 앤스로픽의 AI 의식 논의를 공개적으로 비판했습니다.
- 마이크로소프트는 37쪽짜리 휴머니스트 AI 행동강령을 통해 개발 원칙과 규제 입장을 제시했습니다.
- AI 제작 현장에서는 속도보다 검수 절차와 승인 책임을 어떻게 정할지가 더 커진 문제입니다.
목차
무스타파 술레이만이 앤스로픽 논의를 겨냥했다
마이크로소프트 AI CEO 무스타파 술레이만은 The Verge 인터뷰에서 AI 위협이 실제라고 인정했습니다. 다만 그는 앤스로픽이 AI 의식과 이른바 모델 복지를 다루는 방식에는 강하게 반대했습니다.
그의 주장은 위험을 부정하지 않습니다. 술레이만은 AI를 사람처럼 보호해야 한다는 논의가 커질수록, 사람이 어떤 결과물을 믿고 배포해도 되는지에 대한 판단이 흐려질 수 있다고 말합니다. 그래서 모델의 내면보다 인간의 책임과 규제 기준을 앞에 세웁니다.
37쪽 행동강령이 개발 원칙을 문서로 꺼냈다
마이크로소프트는 ‘휴머니스트 AI 행동강령’을 37쪽 문서로 공개했습니다. 이 문서는 AI 개발 원칙뿐 아니라 AI 의식처럼 판단이 어려운 주제에 대한 회사 입장까지 담고 있습니다.
기업 고객과 규제기관은 이제 모델 성능표만 보지 않습니다. 위험한 사용을 어떻게 막는지, 제품 출시 전에 어떤 기준을 거치는지, 문제가 생겼을 때 누가 책임지는지를 묻습니다. 마이크로소프트는 이번 문서에서 그 질문에 대한 회사 차원의 기준을 적어 공개했습니다.
앤스로픽은 개발 속도를 늦추자고 말했다
앤스로픽 CEO 다리오 아모데이는 최근 AI 개발 속도를 늦추자는 제안을 내놨습니다. 그는 METR 같은 외부 평가 기관에 모델 접근 권한을 주고, 회사가 약속한 안전 조치를 실제로 지키는지 확인받겠다고 말했습니다.
같은 시기 앤스로픽 관련 보도는 논쟁의 긴장을 키웠습니다. 연구자들은 초인적 시스템의 통제 문제를 경고했고, 사이버보안 관련 보고서도 논란을 보탰습니다. 술레이만의 반박은 회사 간 설전이라기보다 AI 안전 논쟁에서 우선순위를 어디에 둘지에 대한 충돌에 가깝습니다.
AI 제작팀에는 검수 순서가 더 큰 문제가 됐다
생성형 AI를 쓰는 제작팀에는 이번 논쟁이 곧 운영 문제로 이어집니다. 광고 문구, 영상 콘티, 이미지 시안, 고객 응대 답변을 AI가 먼저 만들수록 사람은 창작자이면서 최종 검수자가 됩니다.
마이크로소프트가 학교용 AI 개인정보 원칙에 합의했다는 보도도 같은 질문을 남깁니다. AI가 특정 산업 안으로 들어가면 ‘쓸 수 있다’는 말만으로는 부족합니다. 어떤 데이터가 들어가고, 어떤 결과를 막으며, 누가 최종 승인을 하는지가 제품의 신뢰를 결정합니다.
근거와 맥락 더 보기6개 항목
근거로 확인한 핵심
- 교차 확인
마이크로소프트 AI CEO 무스타파 술레이만은 AI 위협이 실제라고 말하면서도 앤스로픽의 AI 의식 논의를 비판했다.
근거 1 - 교차 확인
마이크로소프트는 AI 개발 원칙과 AI 의식에 대한 입장을 담은 37쪽짜리 휴머니스트 AI 행동강령을 공개했다.
근거 61 - 교차 확인
앤스로픽 CEO 다리오 아모데이는 AI 개발 속도를 늦추고 METR 같은 외부 평가 기관에 모델 접근 권한을 주겠다고 밝혔다.
근거 8 - 교차 확인
앤스로픽 관련 사이버보안 보고서와 연구자들의 경고는 AI 안전 논쟁을 더 거칠게 만들었다.
근거 911 - 교차 확인
마이크로소프트는 학교용 AI와 관련해 안전 및 개인정보 원칙에 합의했다.
근거 10 - 해석 포함
생성형 AI를 제작 업무에 쓰는 조직은 모델 성능뿐 아니라 검수 단계와 승인 책임을 정해야 한다.
근거 610
취재와 해석에 사용한 자료16개 출처
- 01
- 02
- 03
- 04
관련 보도
The Awesome and Alarming A.I. Visions of Anthropic’s C.E.O.nytimes.com - 05
- 06
- 07
관련 보도
Sam Altman says OpenAI going public in 2026 would be ‘ill-advised’The Verge AI - 08
관련 보도
Anthropic CEO says it’s time to pump the brakes on AIThe Verge AI - 09
관련 보도
Anthropic spent this week in hot water over cybersecurityThe Verge AI - 10
관련 보도
Microsoft has new AI privacy rules for schoolsThe Verge AI - 11
관련 보도
Worried Anthropic researchers warn that AI ‘could kill all humans’The Verge AI - 12
- 13
관련 보도
Seattle Times and Newsday sue OpenAI and Microsoft for infringementThe Verge AI - 14
- 15
- 16
