[6월 TIL #17] 채팅창을 넘어선 AI 인터페이스: 안드레 카파시가 말하는 '부분 자율성'

최근 인공지능이 발전하면서 많은 서비스가 앞다투어 AI 챗봇을 도입하고 있다. 하지만 과연 '텍스트 채팅'이 AI와 소통하는 가장 효과적인 방법일까? 전 테슬라 AI 디렉터 안드레 카파시(Andrej Karpathy)가 Y Combinator에서 진행한 강연, Andrej Karpathy: Software Is Changing은 이 질문에 대한 새로운 관점을 제시한다.

1. Software 3.0 시대의 도래
카파시는 소프트웨어 패러다임이 다시 한번 크게 변화하고 있다고 말한다. 개발자가 직접 코드를 작성하던 전통적 방식이 'Software 1.0'이고, 신경망이 데이터를 통해 가중치를 학습하는 것이 'Software 2.0'이라면, 이제는 인간의 자연어(영어 등)를 프롬프트로 삼아 거대 언어 모델(LLM)을 다루는 'Software 3.0' 시대가 열렸다는 것이다. 이제 우리는 일상 언어로 고도의 컴퓨팅 시스템을 제어할 수 있게 되었다.

2. 채팅의 한계와 '부분 자율성 앱(Partial Autonomy Apps)'
하지만 AI의 결과물을 단순히 채팅 창의 텍스트로만 확인하는 것은 비효율적일 수 있다. 카파시는 챗GPT와 텍스트로만 대화하는 것을 과거 1960년대 운영체제의 터미널 창과 대화하는 것에 비유한다.

이를 극복하기 위해 등장한 개념이 바로 '부분 자율성 앱(Partial Autonomy Apps)'이다. AI가 모든 것을 알아서 처리하는 '독립된 로봇'을 당장 완성하기보다는, 인간이 직접 통제하면서 능력을 확장할 수 있는 '아이언맨 수트(Iron Man Suit)' 형태의 소프트웨어를 지향하자는 접근이다.

3. 생성(AI)과 검증(인간)의 시각적 피드백 고리
부분 자율성 앱의 핵심은 맞춤형 GUI(Application-specific GUI)에 있다. 코딩 에디터인 '커서(Cursor)'가 대표적인 예다. 커서는 AI가 변경한 코드를 텍스트로 길게 설명하지 않고, 작업 화면 내에서 삭제된 부분은 빨간색, 추가된 부분은 초록색으로 직관적으로 보여준다.

AI가 빠르게 작업물을 생성(Generation)하면, 인간은 시각적 정보를 통해 단축키 하나로 이를 신속하게 검증(Verification)한다. 텍스트를 하나하나 읽는 대신 시각적인 차이를 확인하는 것은 인지 에너지를 덜 소모하게 하여 인간과 AI의 협업 효율을 높인다.

4. 자율성 슬라이더(Autonomy Slider)와 통제선(Leash)
AI는 때로 오류를 범할 수 있는 불완전한 시스템이므로 사용자가 통제권을 가지는 것이 중요하다. 카파시는 앱 내에 '자율성 슬라이더(Autonomy Slider)'를 두어야 한다고 설명한다. 커서에서 단순 자동완성부터 전체 프로젝트 수정까지 사용자가 단축키로 AI의 개입 수준을 자유롭게 조절할 수 있는 것과 같은 맥락이다.

동시에 AI가 의도한 목적을 벗어나지 않도록 적절한 통제선(Leash)을 구축해야 한다. 예를 들어 교육 앱의 경우, 챗봇에게 다짜고짜 "물리를 가르쳐줘"라고 텍스트로 입력하면 AI가 맥락을 잃기 쉽다. 대신 실러버스(강의 계획서) 같은 중간 결과물을 화면에 제시하고 인간이 먼저 확인하게 함으로써, 정해진 커리큘럼 내에서만 AI가 작동하도록 설계하는 식이다.

---

이 주제를 깊게 살펴보게 된 시작점은 최근 읽고 있던 책 속의 짧은 문장이었다. AI 언어 학습 앱 'else'의 프로덕트 디자이너가 "이제는 AI가 화면 내에서 더 잘 놀 수 있는 인터페이스 설계가 필요하다"며 카파시의 강연 영상을 추천했기 때문이다.

이 문장은 나의 최근 경험과도 맞물렸다. Adaline Labs의 아티클 ['Post-Chat Interface for AI Products']를 읽으며 "챗봇 형태가 유일한 정답은 아니다"라는 방향성(Why)에는 공감했지만, 정작 '어떻게(How)' 구현해야 할지는 다소 모호하게 느껴졌다. 며칠 전, 시간 관리 AI 앱을 기획하는 디자이너 지인에게 이 글을 바탕으로 의견을 나눌 때도 스스로 생각이 충분히 정돈되지 않아 피드백이 추상적으로 전달된 아쉬움이 있었다.

하지만 책의 추천을 계기로 카파시의 영상을 찾아본 후, 모호했던 부분들이 훨씬 명확해졌다. 만약 내가 그때 "AI가 화면 위에서 제안을 시각적으로 던지고(Generation), 인간이 이를 빠르게 검증(Verification)하는 구조"가 생산성 앱의 중요한 요소라는 점을 인지했더라면 어땠을까? 지인에게 "채팅형 UI에서 일정을 줄글로 설명하게 두기보다, 캘린더 위에서 변경된 스케줄을 시각적 차이로 띄워준 뒤 유저가 빠르게 승인하게 만들자"고 더 구체적으로 제안할 수 있었을 것이다.

단순히 채팅 창을 벗어나는 것을 넘어, 생산성 툴에서는 시각적 GUI와 자율성 슬라이더로 검증 효율을 높이고, 교육 앱에서는 실러버스를 통해 AI의 통제선을 구축하는 것. 결국 어떤 목적성을 가지고 AI를 활용할 것인가에 달렸다. 굿!