AI 챗봇과의 인터랙션 기술의 발전으로 사용자의 몰입도도 높아짐에 따라, 비윤리적 대화를 포함하여 사회적으로 다양한 윤리적 문제와 위험성이 제기되고 있습니다. 이에 AI 챗봇 서비스는 검열 시스템을 제공하고 있으나, 이는 몰입도를 하락시키고 사용자의 이탈을 초래합니다. 본 연구에서는 기존의 검열 필터/차단 방식이 아닌, AI 챗봇과의 대화 맥락을 벗어나지 않으면서도 사용자 스스로 자발석 폭력성을 인지하고, 사용자의 폭력적 발화를 중재하고 응답 개선 요구를 수용하도록 하기 위한 시스템 및 에이전트의 능동적 피드백 제공에 관한 실험을 진행하였습니다.