마이크로소프트(Microsoft Corp.)가 인공지능 챗봇을 속여 의도치 않은 행동을 유도하는 것을 어렵게 만드는 데 주력하고 있다. 워싱턴주 레드몬드에 본사를 둔 이 회사는 목요일 블로그 게시물에서 개발자들이 자신들의 데이터를 사용해 맞춤형 AI 비서를 만들 수 있는 Azure AI Studio에 새로운 안전 기능을 추가하고 있다고 밝혔다.

이번에 도입되는 도구들에는 프롬프트 쉴드(Prompt shields)가 포함되어 있으며, 이는 AI 모델이 예상치 못한 방식으로 작동하게...