마이크로소프트는 자사 포털 사이트인 MSN 내에서 관광지 안내 등을 하는 코너(Microssoft Travel)를 운영하고 잇다. 이런 마이크로소프트 트래블이 8월 14일 공개한 콘텐츠(Headed to Ottawa? Here’s what you shouldn’t miss!)에선 국립전쟁기념비 등을 소개하고 있다.
하지만 일부 목록에는 오타와 푸드뱅크 같은 관광에는 적합하지 않은 명소도 포함되어 있었다고 한다. 푸드뱅크란 유통기한이나 포장비 등을 이유로 시장에 유통하지 않은 식품을 모아 노숙자나 아동양호시설 입주자, 저소득세대, 생활 보호 세대 등에 공급하는 자선단체나 시설을 말한다.
마이크로소프트 트래블에 의한 기사에선 오타와 푸드뱅크에 대해 이 조직은 1984년 이후 오타와 지역 가난한 이들과 가족에게 음식을 입수, 구매, 생산, 배달해왔다며 기아가 매일 남녀, 어린이에게 어떤 영향을 미치는지 그리고 성취에 대한 장벽이 될 수 있는지 관찰하고 있다면서 이대로 생활을 유지하는 건 곤란하다고 밝혔다.
보도에 따르면 배고플 때 오타와 푸드뱅크를 의지하는 걸 검토해달라는 문장은 AI가 작성한 문장에 흔히 있는 공허한 결정을 하는 일례라고 한다. 또 기사 작성자 입력란에 마이크로소프트 트래블이라는 크레딧이 있어 해당 기사는 AI가 만들었을 가능성이 있다고 지적하고 있다.
AI와 대규모 언어 모델을 연구하는 한 연구자는 마이크로소프트 트래블이 공개한 이 기사 내에서 해당 기사는 AI가 생성했다는 게 명시되어 있지 않다며 이는 마이크로소프트의 책임, 신뢰받는 AI 원칙에 반하는 것 같다고 말한다. 마이크로소프트가 AI에 대한 투명성을 확보하거나 책임을 지지 않는다고 지적하는 것.
또 오타와에 관한 기사 내용에서 판단하면 기사를 쓴 건 인간이 아니라 기사를 게재하기 전 내용을 충분히 확인한 사람도 없었을 가능성이 높다고 밝혔다. AI가 작성한 콘텐츠 모니터링이나 편집 등을 실시하지 않고 그대로 인터넷상에 공개하고 있을 가능성을 지적한 것이다.
현재 마이크로소프트 트래블 내 해당 기사는 삭제됐다. 마이크로소프트 측 관계자는 이 기사의 문제는 인위적인 실수라는 걸 밝혀냈다며 콘텐츠 편집자의 지금까지의 경험을 조합해 기사를 작성하고 있으며 앞으로 이런 콘텐츠가 투고되지 않게 대책을 실시할 것이라고 밝혀 AI가 생성한 문장이라는 건 인정했지만 인간에 의한 기사 체크가 부족했다는 지적에 대해선 부정했다. 관련 내용은 이곳에서 확인할 수 있다.