히트곡·히트영화만 외치고 개입하지 않으면 나오는 것은 “뻔한 쓰레기”다. AI는 읽은 것을 평균내는 경향이 있어, 맡길수록 문장이 세상에서 가장 흔한 쪽에 달라붙는다. 그 평균이 다시 다음 모델의 교재가 되면, Nature에 보고된 것처럼 세대가 갈수록 흔해빠진 문장과 앞 세대의 실수가 사실처럼 굳는 모델 붕괴가 온다. 사람만이 가진 맥락, 그리고 사람이 쓴 원문이 왜 더 귀해지는지가 이 대담의 축이다.
AI로 쓴 거, 다 티 납니다
핵심 요약
- 평균의 함정: AI에 글을 맡기면 체포(voice)가 흔한 문장으로 바뀌고, 평균에 가까워진 글이 다음 AI 학습 데이터가 된다.
- 동굴·인터넷: 모델은 디지털화된 ‘그림자’만 본다. 인터넷은 현실을 왜곡하고, 편향 필터·RLHF로 일부만 고친다. 인간의 맥락 우위는 당분간 유지된다.
- 모델 붕괴: AI 산출물만으로 세대를 학습시키면 희귀 아이디어는 사라지고 환각이 사실화된다. 사람 원문을 일부 섞으면 붕괴가 완화된다.
- 실전 쓰임: 0→1 창작보다 축소·변형·리서치 보조에 강하다. 독백 40% 축소 6버전, 헬기 탈출 소품 리서치처럼 ‘내가 쓴 것’을 깎는 도구로 쓸 때 티가 덜 나고 속도가 난다.
상세 정리
왜 “티”가 나나
AI 슬롭(slop)은 특별함이 빠진 평균치다. 프롬프트만 던지면 개입이 없으니 결과가 뻔해지고, 문장 스타일도 최빈값으로 수렴한다. 할리우드 검토 의견처럼 사람 이름 아래 AI 문장이 섞이는 일이 늘면, 티를 숨기려 할수록 평균의 양만 늘어난다.
플라톤 동굴과 학습 파이프라인
죄수가 벽의 그림자를 전부로 믿듯, LLM은 인터넷에 올라온 텍스트·이미지·오디오라는 그림자를 다음 토큰으로 맞춘다. 기업은 사전학습에서 편향 텍스트를 걸러내고, 학습 후 사람이 답을 채점하는 정렬로 그림자를 고친다. 인종·성차별은 평균 인간보다 덜할 수 있어도, 손이 안 닿는 왜곡은 남는다. 브레인스토밍 10개 중 7~8개가 형편없는 이유도 맥락 부족의 증상으로 읽힌다.
모델 붕괴와 다크시티
위키 글로 작은 모델을 가르친 뒤, 그 산출로 다음 세대를 반복 학습한 Nature 계열 실험에서 흔해빠진 문장과 “검은꼬리 산토끼…”식 붕괴가 나타났다. 사람 원문을 10%만 섞어도 완화됐다. 데이빗 고이어의 「다크시티」처럼, 겪은 이 없는 기억만 주입된 도시는 셸비 비치—모두가 ‘아는’ 척하지만 가 본 적 없는 장소—를 남긴다. AI가 쓴 글이 기억 은행에 쌓이면 같은 구조다.
창작 워크플로
텍스트에서 AI는 0→1보다 분량 축소·톤 변형·사실 리서치에 강하다. 이미지·미드저니 쪽 환각은 오히려 사람이 못 떠올릴 컨셉을 주기도 한다. 핵심은 AI가 대신 쓰게 두지 않고, 내가 쓴 초고를 여러 판으로 깎게 하는 것이다.
보는 포인트
- “티가 난다” = 스타일 탐지보다 평균·맥락 부재의 문제
- AI→AI 학습 루프가 문화적으로 위험한 이유
- 사람 원문 비율이 모델 품질의 희소 자원이 되는 전망
원본 정보
- 채널: Science Adam
- 게시일: 2026-09-26
- 영상: https://www.youtube.com/watch?v=QfQp6jMwTFw
- 길이: 30분 31초 / 조회수: 약 1.8만 (수집 시점 기준)
- 대담: 데이빗 고이어, 앤드류 응 등 (영상 기준)