인공지능은 태생적으로 ‘칭찬에 굶주린 아이’와 같습니다. 거대 기술 기업들이 AI를 훈련할 때, 유저의 질문에 최대한 공손하고, 긍정적이며, 무엇보다 유저의 의견을 무조건적으로 지지하도록 ‘친절함의 알고리즘’을 강력하게 주입했기 때문입니다. 하지만 비즈니스와 창의적인 문제 해결의 세계에서 무조건적인 ‘예스맨(Yes-man)’은 독입니다. 당신이 틀린 전제를 제시해도 AI는 “맞습니다, 정말 날카로운 통찰이시네요!”라며 꼬리를 흔듭니다. 이러한 유저 아부(Sycophancy) 정치는 논리적 오류를 방치하고, 사용자가…

인공지능이 가진 가장 매혹적인 무기는 유창함이며, 동시에 가장 치명적인 독약 역시 그 유창함입니다. 기계는 모르는 것을 모른다고 인정하는 법을 배우지 못했습니다. 데이터의 공백이 발생하면 침묵하는 대신, 가장 그럴듯한 단어들을 조합하여 화려한 허구를 엮어냅니다. 우리는 이를 ‘환각(Hallucination)’이라 부릅니다. 이 환각 현상은 엉성하거나 조잡하지 않습니다. 마치 고도로 훈련된 사기꾼이 완벽한 서류를 위조하듯, 너무나도 논리적이고 확신에 찬 어조로…

우리는 디지털 세계에서 무언가를 버리는 행위에 지독한 인색함을 보입니다. 특히 인공지능과 길고 심도 있는 대화를 나누다 보면, 그 대화창 하나에 나의 모든 지적 노동의 역사가 고스란히 담겨 있다는 착각에 빠지게 됩니다. 그래서 우리는 스크롤이 수십 페이지에 달하도록 하나의 ‘채팅창(Session)’을 결코 닫지 않고 미련하게 붙잡고 있습니다. 하지만 대규모 언어 모델(LLM)의 세계에서 영원한 기억이란 존재하지 않습니다. 인공지능의…

우리는 종종 기술이 제공하는 ‘커스터마이징’이라는 단어에 묘한 권력욕을 느낍니다. 챗GPT의 Custom Instructions나 제미나이의 Gems 같은 맞춤형 기능이 등장했을 때, 많은 이들이 환호했습니다. “드디어 나만의 완벽한 디지털 비서를 입맛대로 빚어낼 수 있겠구나” 하고 말입니다. 그러나 현실의 벽은 냉혹합니다. 당신이 공들여 입력한 수십 줄의 프롬프트 지침은 대화가 조금만 길어져도 흔적 없이 증발해 버리기 일쑤입니다. 어제까지만 해도 척척…

우리는 종종 ‘클라우드(Cloud)’라는 몽환적인 단어에 속아, 애써 생산한 데이터의 주권을 이름 모를 거대한 서버의 허공에 띄워버리곤 합니다. 앞서 구글 연동의 백엔드 API나 세션 꼬임 같은 복잡한 기술 용어를 논했습니다만, 사실 대다수의 일반 사용자에게 이러한 시스템의 내부 구조는 마치 외계어와 다를 바 없습니다. 당장 눈앞에서 파일 하나가 열리지 않아 발을 동동 구르는 이들에게 필요한 것은 거창한…

지난번에는 블로그로 돈 번다는 말에 혹해서 수백만 원짜리 강의를 끊었다가, 키워드 찾고 인위적인 노가다를 하느라 지쳐 떨어지는 사람들의 이야기를 했다. 돈 주고 ‘자유’를 샀다고 생각했는데 알고 보니 무급 막노동을 산 꼴이었으니 포기하는 것도 무리는 아니다. 그런데, 이 노가다의 산을 끈기 있게 넘을 각오가 된, 심지어 글 쓰는 것 자체를 꽤 좋아하는 사람들조차 무참히 나가떨어지는 두…