OpenAI, 아동 성착취 이미지 탐지 분류기를 검증된 기관에 무료 제공
OpenAI가 AI로 만든 이미지까지 잡아내는 아동 성착취물(CSAM) 이미지 분류기를 심사를 거친 기관에 무료로 API 제공하고, ChatGPT에는 경고와 24시간 이용 정지를 넣었어요.
OpenAI가 AI로 만든 이미지까지 잡아내는 아동 성착취물(CSAM) 이미지 분류기를 심사를 거친 기관에 무료로 API 제공하고, ChatGPT에는 경고와 24시간 이용 정지를 넣었어요.
앤트로픽 엔지니어링 블로그가 안전성 평가를 만드는 원칙을 공개했어요. 측정 대상 정의, 여러 턴 시뮬레이션, LLM 채점기 검증, 표본 크기와 신뢰구간까지 정리했어요.