메타 AI가 아이 신상을 묻자, 추천 질문을 고쳤다

가족 영상 아래 붙은 AI 질문이 이전 게시물 정보까지 끌어오자, 메타는 개인사 관련 추천을 수정했다고 밝혔습니다.

메타 AI 추천 질문 논란을 다룬 원문 이미지에는 인스타그램과 페이스북 맥락의 화면 사례가 담겼습니다.

이 글을 꼭 읽어야 하는 분

AI 기능을 서비스 화면에 붙이는 제품·콘텐츠 기획자 · 소셜 플랫폼의 개인정보 논란을 따라가고 싶은 분 · 브랜드 계정에서 자동 추천 문구를 쓰는 마케터

3줄 요약

  1. 메타가 AI 챗봇의 추천 질문 기능을 수정했다고 밝혔습니다.
  2. 칼리 로빈스는 가족 영상 아래 뜬 질문을 누른 뒤 아이들의 나이와 거주지 관련 추가 질문까지 제안받았다고 말했습니다.
  3. AI가 게시물을 요약하고 질문을 만드는 서비스에서는 문구 검수와 개인정보 차단 규칙이 함께 설계돼야 합니다.

목차

  1. 가족 영상 아래 뜬 아이 신상 질문
  2. 게시물 접근 권한과 사생활 침해의 차이
  3. 메타가 AI 비서를 더 가까운 화면에 넣고 있다
  4. 자동 추천 문구도 제품 안전 검수에 들어간다

가족 영상 아래 뜬 아이 신상 질문

메타는 AI 챗봇이 제안하는 질문 기능을 수정한다고 밝혔습니다. 발단은 인스타그램 이용자 칼리 로빈스가 올린 영상이었습니다. 그는 아이와 차 안에서 노래하는 영상을 페이스북에도 올렸고, 그 아래에 아이 승객이 누구인지 묻는 AI 추천 질문이 떴다고 설명했습니다.

로빈스가 그 질문을 누르자 메타 AI는 이전 게시물과 친척들이 올린 게시물에서 딸들에 관한 정보를 끌어와 답했습니다. 이어 아이들의 나이와 가족이 사는 곳을 묻는 추가 질문도 제안했다고 합니다.

[AI이미지]
전체 맥락 이미지 · 가족 영상 아래 뜬 아이 신상 질문출처 Weekly Lens AI Studio

게시물 접근 권한과 사생활 침해의 차이

메타 대변인 디나 엘카사비는 회사가 판단을 잘못했다고 인정했습니다. 그는 이 기능이 관심 있는 게시물에 관해 더 많은 정보를 얻도록 돕기 위해 만들어졌지만, 해당 이용자에게 그런 질문을 제안해서는 안 됐다고 말했습니다.

메타는 개인적인 주제와 관련된 추천 질문을 띄우던 문제를 고쳤다고 밝혔습니다. 회사는 사용자가 질문을 눌렀을 때 생성되는 답변이 사용자가 이미 접근할 수 있는 정보에 기반한다고 설명했습니다.

[AI이미지]
브랜드 배경 조사 이미지 · 게시물 접근 권한과 사생활 침해의 차이출처 Weekly Lens AI Studio

메타가 AI 비서를 더 가까운 화면에 넣고 있다

이번 논란은 메타가 AI 기능을 여러 서비스에 깊숙이 넣는 시기에 나왔습니다. 메타 AI는 페이스북, 인스타그램, 왓츠앱, 메신저에서 질문에 답하고 글을 쓰며 이미지를 만들 수 있습니다.

메타는 생산성 도구 성격의 AI 비서 뮤즈(Muse)도 내놓았습니다. 온라인 쇼핑, 이메일, 여행 계획 같은 일을 돕겠다는 제품입니다. AI가 이용자의 일상 화면에 가까워질수록 어떤 질문을 먼저 띄울지 정하는 규칙도 더 민감해집니다.

[AI이미지]
디테일 인서트 이미지 · 메타가 AI 비서를 더 가까운 화면에 넣고 있다출처 Weekly Lens AI Studio

자동 추천 문구도 제품 안전 검수에 들어간다

이 사건에서 제작팀이 다뤄야 할 대상은 최종 이미지나 답변에 그치지 않습니다. AI가 게시물 아래에서 질문을 만들고, 그 질문이 대화의 출발점이 되면 첫 문장부터 제품이 책임져야 할 화면 문구가 됩니다.

브랜드와 플랫폼 운영자는 자동 추천 문구가 어떤 데이터를 불러오는지 미리 정해야 합니다. 미성년자, 가족관계, 거주지처럼 민감한 정보는 참여율을 높이는 문장보다 제한 규칙이 먼저 필요합니다.

근거와 맥락 더 보기6개 항목

근거로 확인한 핵심

  1. 공식 확인

    메타는 AI 챗봇의 추천 질문 기능이 개인적인 주제를 제안하던 문제를 수정했다고 밝혔다.

    근거 1
  2. 교차 확인

    칼리 로빈스는 가족 영상 아래에 아이 신상을 묻는 AI 추천 질문이 떴고, AI가 이전 게시물과 친척 게시물 정보를 엮어 답했다고 공개했다.

    근거 1
  3. 공식 확인

    메타 대변인 디나 엘카사비는 회사가 판단을 잘못했으며 이런 질문을 제안해서는 안 됐다고 말했다.

    근거 1
  4. 공식 확인

    메타 AI는 페이스북, 인스타그램, 왓츠앱, 메신저에 들어가 질문 답변, 글쓰기, 이미지 생성 기능을 제공한다.

    근거 1
  5. 교차 확인

    메타는 생산성 AI 비서 뮤즈를 통해 쇼핑, 이메일, 여행 계획 같은 작업을 돕는 제품을 밀고 있다.

    근거 45
  6. 해석 포함

    AI가 게시물 아래에서 질문을 먼저 제안하는 서비스에서는 추천 문구와 답변 재료를 고르는 규칙이 개인정보 안전의 일부가 된다.

    근거 15
취재와 해석에 사용한 자료16개 출처

함께 읽으면 좋은 콘텐츠

메타 AI가 아이 신상을 묻자, 추천 질문을 고쳤다 · Weekly Lens