옥쇄 AI 서비스, 생각보다 쉬워
AI 연구원들은 AI 챗봇이 대화 중간에 쿼리를 통해 학습한 엄청난 양의 데이터를 제공함으로써 질문에 잠재적으로 위험한 응답을 하도록 속일 수 있다는 것을 발견했습니다. 인공지능(AI) 회사인 아티스틱의 과학자들은 ChatGPT와 아티스틱의 클로드 3 챗봇과 같은 널리 사용되는 대형 언어 모델(LLM)에서 잠재적으로 위험한 결함을 발견했습니다. “많은 한방 탈옥”이라고 불리는 이 해킹은 2022년에 발표된 연구에 요약된 바와 같이 사용자가 작성한 텍스트 프롬프트에 제공된 정보로부터 …