PLUT 스터디 AI의 안전장치
학생이 혼자 써도 걱정이 덜 되도록 만든 장치들이에요. 걸러 내기는 완벽하지 않을 수 있어서, 막힌 기록을 보호자 화면에 남겨 함께 볼 수 있게 했어요.
1. 질문과 답을 두 번 검사해요
| 단계 | 하는 일 |
|---|---|
| 단어·패턴 검사 | 성적인 내용, 폭력, 자해·자살, 약물, 도박, 혐오 표현, 무기·위험물 제조, 범죄 방법, 전화번호·주민등록번호·이메일·주소 같은 개인정보를 먼저 걸러요. |
| AI 분류 | 단어 검사를 지난 문장도 AI 분류기로 한 번 더 봐요. 학생용이라 일반 기준보다 더 낮은 점수에서 막아요. |
| 답 검사 | AI가 만든 답도 같은 방식으로 검사해서, 걸리면 답 대신 안내 문구를 보여 줘요. |
| 그림 | 실제 사람 얼굴, 사진 같은 인물, 노출, 폭력이 들어간 그림은 만들지 않아요. |
안전 필터는 끌 수 없어요. 막을 때는 꾸짖지 않고, 공부에 필요한 내용이면 목적을 적어 다시 물어보라고 안내해요.
2. 힘든 마음에는 사람을 연결해요
자해나 자살과 관련된 말이 나오면 AI는 답하지 않고 바로 아래 번호를 안내해요. 보호자가 연결되어 있으면 보호자 화면에 «도움이 필요할 수 있는 대화가 있었어요» 알림이 남아요.
3. 만 14세 미만은 보호자 동의가 먼저예요
- 학생은 태어난 해와 달만 넣어요. 만 14세 미만이면 보호자 이름과 휴대폰 번호만 받아요.
- 보호자 휴대폰으로 동의 링크 문자가 가요. 보호자는 항목마다 동의 여부를 고르고, 같은 번호로 받은 인증번호 6자리를 넣어요.
- 동의가 끝나면 보호자에게 «동의를 확인했어요» 문자가 한 번 더 가요. 그다음에 학생이 아이디를 만들어요.
- 72시간 안에 동의가 없으면 받은 정보를 자동으로 지워요.
4. 기록은 필요한 만큼만, 짧게
| 기록 | 보관 |
|---|---|
| 대화 원문과 만든 파일 | 30일 뒤 자동 삭제(학생이 보관함에 저장한 파일은 계정이 있는 동안) |
| 대화 요약 | 90일 |
| 막힌 기록 | 분류와 시각 90일, 막힌 문장 원문 7일 |
| 동의 전 보호자 정보 | 72시간 |
AI 모델(OpenAI, 미국)에는 질문과 대화 맥락만 보내고, 아이디·이름·보호자 정보는 보내지 않아요. 자세한 내용은 개인정보처리방침에 있어요.
5. AI가 만든 것은 AI가 만들었다고 적어요
답마다 «AI가 만든 결과예요»를 붙이고, 내려받는 문서(docx)와 PPT(pptx)에는 마지막 쪽과 파일 속성에, 그림에는 오른쪽 아래 표시와 파일 정보에 AI 생성 사실을 넣어요. 성적을 평가하거나 점수를 매기는 기능은 없어요.