#챗봇
총 3편
AI 에게 전문가 역할을 줘도 정답률은 오르지 않았다 — 역할 부여 프롬프트
「너는 세계 최고의 전문가야」를 붙여도 AI 의 객관식 정답률은 오르지 않았다. 논문 두 편과 우리 실측으로, 잘 통했다는 기억이 어디서 오는지 따져 본다.
내가 틀린 답을 말해도 챗봇은 그대로 따라간다 — 아첨(sycophancy)
챗봇은 내가 되묻기만 해도 맞는 답을 바꾸곤 한다. 왜 그렇게 기우는지를 논문과 2025년의 실제 사건으로 따라간다.
AI는 왜 모른다고 안 하고 지어낼까 — 환각(hallucination)
정답엔 점수, 「모르겠다」엔 0점을 주는 채점표에서는 모를 때 찍는 AI가 순위표에서 앞선다. 환각(hallucination)이 생기는 셈법을 100문항 시험으로 풀어 본다.
