글
총 141편
AI 그림 속 글자가 엉터리였던 이유
AI 그림 속 글자가 엉터리였던 원인 하나는 프롬프트를 읽는 쪽이 낱말을 통째로 받아 글자를 못 본 데 있었다. 글자를 보는 쪽을 붙이자 철자가 크게 나아졌지만, 한글은 그렇게 해도 그리지 못했다.
챗봇이 말하는 학습 날짜는 왜 어긋날까
챗봇이 말하는 학습 날짜는 회사가 밝힌 날짜와도, 사건 문제로 잰 날짜와도 어긋날 수 있다. 회사가 밝힌 날짜와 견줄 수 있는 모델 20개 가운데 14개가 더 이른 날짜를 댔다.
이모지 추천이 인기 이모지로 쏠리는 이유
보정 전 키보드 이모지 추천 모델은 문장과 상관없이 거의 늘 😂 같은 흔한 이모지를 첫자리에 올렸다. 인기가 문장을 이겨서다. 구글 지보드 논문의 처방은 점수를 인기로 나누는 식 한 줄이었다.
챗봇에 조건을 나눠 말하면 답이 나빠지는 이유
같은 조건을 여러 번에 나눠 말하자 AI 모델 15개의 성적이 평균 39% 떨어졌다. 한 메시지에 모아 주면 거의 그대로였다.
음성 비서가 내 말을 중간에 끊는 이유
말하다 잠깐 멈추면 음성 비서가 끊는 건 쉬는 틈을 말의 끝으로 판정하기 때문이다. 애플 실험에서 말을 더듬는 사람의 명령은 평균 23.8% 가 잘렸고, 덜 자르게 맞추자 대답이 1초 넘게 늦었다.
번역기가 「걔」를 he 나 she 로 옮기는 이유
2019년 무렵 번역기 세 곳은 성별이 없는 「걔」로 직업을 소개한 한국어 문장을 대개 he 로 옮겼다. 주어만 「그 사람은」으로 바꾸면 여성으로 옮긴 문장이 하나도 없었다.
AI 는 왜 아날로그 시계를 잘 못 읽을까
코드로 그린 시계 450장을 보여 주자, 2024년의 한 AI 모델이 정답에 한 번도 없는 10시 10분을 58번 댔다. 정답이 붙은 시계 그림으로 더 가르치자 그 답은 1번으로 줄었다.
AI 에게 전문가 역할을 줘도 정답률은 대개 그대로다
「너는 세계 최고의 전문가야」를 붙여도 AI 의 객관식 정답률은 오르지 않았다. 논문 두 편과 우리 실측으로, 잘 통했다는 기억이 어디서 오는지 따져 본다.
자막에 「시청해 주셔서 감사합니다」가 뜨는 이유
말소리가 없는 무음·잡음 파일 217개를 받아쓰기 AI에 한국어로 넣자 199개에 「감사합니다」가 적혔다. 말소리 구간만 골라 넘기면 대부분 사라진다.
AI 탐지기가 직접 쓴 글을 AI 로 판정하는 이유
2023년 스탠퍼드 실측에서 AI 탐지기 7종이 영어가 모국어가 아닌 학생들의 에세이를 AI 글로 찍은 비율은 평균 61%였고, 미국 중학생 글에서는 5%였다 — 갈린 것은 글쓴이보다 글의 뻔함이었다.
챗봇은 왜 거꾸로 물으면 답을 잘 못 할까
챗봇은 유명인의 어머니 이름은 대면서, 그 어머니의 자식은 누구냐고 물으면 모른다고 한다 — 300쌍 실측에서 66% 대 22%.
「단계별로 생각해 봐」를 붙이면 더 잘 맞힐까
챗봇에게 문제를 낼 때 「단계별로 생각해 봐」를 붙이자 2022년 모델에서는 정답률이 크게 올랐다. 그런데 그 힘은 수학·논리 문제에서만 크다. 2026년 모델 한 종에 쉬운 문장제를 내 보니 차이는 0.5%포인트였다.
AI 가 큰 수 곱셈에서 가운데 자리를 틀리는 이유
챗봇에게 큰 자릿수 곱셈을 시키면 자릿수와 앞뒤 자리는 맞는데 가운데만 틀린 오답이 나온다. 어디선가 본 답의 생김새대로 크기와 양 끝을 맞춰 놓은 것이어서다 — 풀이 과정을 쓰게 하면 달라진다.
같은 질문에 챗봇 답이 달라지는 이유
같은 챗봇에 같은 질문을 되풀이해 던지면 답이 갈리는 질문과 안 갈리는 질문이 있다. 모델이 다음 낱말을 뽑는 확률표의 모양을 바꾸는 값이 temperature(온도)다.
Jev, 글을 안 쓰는 AI 모델은 고른 답에 확률을 붙여 돌려준다
Jev 는 문장을 한 줄도 쓰지 않고 미리 정해 둔 선택값·점수·확률만 돌려준다. 「환각을 못 한다」는 말이 무엇까지 보장하고 무엇은 보장하지 않는지를 공식 문서와 평가 수치로 짚는다.
내가 틀린 답을 말해도 챗봇은 그대로 따라간다 — 아첨(sycophancy)
챗봇은 내가 되묻기만 해도 맞는 답을 바꾸곤 한다. 왜 그렇게 기우는지를 논문과 2025년의 실제 사건으로 따라간다.
관련 영상 · AI 가 맞장구치는 건 내 편이라서가 아닙니다
AI는 왜 모른다고 안 하고 지어낼까 — 환각(hallucination)
정답엔 점수, 「모르겠다」엔 0점을 주는 채점표에서는 모를 때 찍는 AI가 순위표에서 앞선다. 환각(hallucination)이 생기는 셈법을 100문항 시험으로 풀어 본다.
관련 영상 · 챗GPT 거짓말, 알고 보면 시험 찍기에 가깝습니다
AI 글로 AI 를 가르치면, 옛 데이터를 버릴 때 계속 나빠진다 — 모델 붕괴
AI 가 쓴 글로 AI 를 다시 가르칠 때, 옛 데이터를 버린 쪽은 계속 나빠졌고 버리지 않고 쌓은 쪽은 언어 모델 실험에서 끝없이 나빠지지 않았다.
관련 영상 · 유튜브 알고리즘은 여러분 취향을 다 알지는 못합니다
체르노빌 비상정지 버튼, 누르고 3초 뒤 출력이 오히려 올랐다 — 양성 스크램
체르노빌 4호기에서 비상정지 버튼을 누른 지 3초 뒤 출력은 오히려 올라가 있었다. 정지용 막대가 내려오는 처음 몇 초 동안 원자로 아래쪽에서는 물이 흑연으로 바뀌었다 — 물은 핵반응을 누르는 쪽인데 흑연은 그만큼 누르지 못한다.
길을 하나 더 냈는데 다들 더 오래 걸린다 — 브라에스 역설
출근길 두 갈래 사이에 지름길을 놓았더니 다들 더 오래 걸린다. 차가 적당히 많은 구간에서만 나는 이 손해를 브라에스 역설이라고 부른다.



















