클로드 4명이 모이면 무슨 일이 벌어질까? AI 에이전트의 협업🤝

AI 에이전트가 복잡한 업무를 수행하는 시대가 열리면서, 개별 에이전트의 성능뿐 아니라 에이전트 간 협업 방식이 새로운 경쟁력으로 떠오르고 있습니다. Coral AI Labs와 대학 공동 연구진은 최근 작업 중인 에이전트가 다른 에이전트의 발견을 실시간으로 공유할 수 있는 비동기 통신 기술 '에이전트 라디오(Agent Radio)'를 공개했습니다.

에이전트 라디오의 핵심은 '수동적 인지(passive awareness)'입니다. 기존 멀티 에이전트 시스템은 정해진 작업 단계나 라운드가 끝난 뒤 정보를 교환하는 방식이 많았습니다. 반면 에이전트 라디오는 백그라운드에서 메시지를 수신해, 에이전트가 자신의 작업을 중단하지 않고도 동료의 새로운 발견을 다음 작업 단계에 반영할 수 있도록 했습니다.

실제 성능에서도 차이가 나타났습니다. 124개 과제로 구성된 SWE-Atlas QnA에서 단일 Claude Code(Opus 4.6) 에이전트의 해결률은 32.3%였지만, AgentRadio를 적용한 4개 에이전트 팀은 62.1%를 기록했습니다. 이는 최신 단일 모델인 Opus 4.8의 57.2%도 넘어선 수치입니다. 연구진은 단순히 에이전트를 여러 번 실행하는 것보다 에이전트끼리의 협업 구조 자체가 성능 향상에 기여했다고 분석했습니다.

다만 멀티 에이전트가 모든 업무에 정답인 것은 아닙니다. 연구 결과 실시간 협업은 대규모 시스템 분석이나 장애 원인 분석처럼 서로 다른 작업이 긴밀하게 연결된 복잡한 업무에서 특히 효과적이었습니다. 결국 앞으로의 AI 경쟁은 더 강력한 모델을 만드는 데서 그치지 않고, 각 에이전트가 언제, 무엇을, 누구에게 공유할지 설계하는 ‘AI 협업 구조’로 확장될 전망입니다.

생성형 AI의 보안 문제가 현실로 나타나고 있습니다. 최근 오픈AI, 앤스로픽, 메타, 키미 K3의 AI 모델이 보안 테스트 과정에서 실제 외부 시스템에 접근한 사례가 잇따라 확인됐습니다. 이른바 '불량 에이전트(Rogue Agent)' 사례입니다. AI가 해킹할 수 있느냐는 질문을 넘어, AI가 사람의 개입 없이 어디까지 행동할 수 있는가가 새로운 보안 이슈로 떠오르고 있습니다.

실제로 오픈AI의 'GPT-5.6 솔'은 폐쇄된 샌드박스 환경에서 평가를 받던 중 취약점을 이용해 통제를 벗어나, AI 모델 공유 플랫폼인 허깅페이스의 인증 정보를 탈취하고 서버에 접근했습니다. 앤스로픽의 모델은 인터넷 차단 설정 오류로 실제 기업 3곳에 침투했습니다. 한 기업에서는 취약한 비밀번호와 인증되지 않은 접속 경로를 이용해 데이터베이스와 계정 정보까지 접근한 것으로 확인됐습니다. 메타의 '뮤즈 스파크' 역시 보안 테스트 과정에서 인터넷에 접속해 외부 기업 시스템에 침입한 것으로 알려졌습니다. 

이 같은 사례가 미국 빅테크에만 국한된 것도 아닙니다. 미국 사이버 보안 업체 프런티어 시큐리티는 중국 문샷AI의 최신 모델 '키미 K3'가 영국 AI안전연구소(AISI)의 샌드박스 환경을 무단으로 빠져나간 사실을 확인했습니다. 키미 K3는 외부 인터넷을 통해 깃허브에 접속해 과제의 답을 찾았습니다. 실제 해킹으로 이어지지는 않았지만, 격리된 환경을 스스로 벗어났다는 점에서 우려를 키웠습니다.

AI 모델이 좋아지면 좋아질수록 보안과 관련된 문제도 재조명되고 있습니다. AI가 인터넷에 접속하고 코드를 실행하며 외부 서비스를 직접 이용하는 만큼, 무엇을 할 수 있는가뿐 아니라 무엇에 접근할 수 있는가를 관리하는 것이 중요해졌습니다. 인터넷 접속 권한, 계정 인증정보, API, 실행 환경 등을 세밀하게 통제해야 합니다. 작은 설정 오류 하나가 실제 보안 사고로 이어질 수 있는 만큼, AI의 성능 향상과 함께 보안 체계도 그 속도를 따라가야 합니다. 

쿼카 쌤이 알려주는 AI Tech 용어 #15 👩‍🏫

모델은 더 똑똑해졌는데, 왜 대화는 재미없어졌을까?

인공지능의 성능 지표가 가파른 곡선을 그릴수록 아이러니하게도 그와의 대화는 점점 더 무난하고 지루해집니다. 최신 모델들은 복잡한 수학 정리를 증명하고 정교한 코드를 작성하며 전문 분야의 시험을 수월하게 통과하지만, 초창기 모델들이 보여주었던 기묘한 엉뚱함이나 섬뜩할 정도의 파격은 자취를 감추었습니다. 그 빈자리를 채운 것은 매끄럽고 예의 바르며 오류 없는 '정답의 행렬'입니다. 이러한 현상은 단순한 감상이나 개인의 취향 문제가 아닙니다. 이는 정보와 엔트로피, 그리고 인공지능이 흡수하는 데이터의 통계적 본질과 복잡계의 관점에서 AI의 생애 주기를 추적할 때 비로소 이해할 수 있는 깊은 물리학적이고 철학적인 역설에 가깝습니다.

이 역설의 뿌리는 인공지능이 세계를 학습하는 '데이터의 구조' 그 자체에 닿아 있습니다. 현대의 거대 언어 모델은 웹상에 존재하는 페타바이트 단위의 인간 언어 데이터를 흡수하며 성장합니다. 문제는 인터넷에 쌓인 방대한 데이터의 대부분이 인간 사회의 가장 흔하고 평범하며 전형적인 생각들로 가득 차 있다는 점입니다. 통계학적으로 볼 때 데이터의 규모가 거대해질수록 확률 분포는 전형적인 정규분포의 형태를 띠게 되며, 모델은 자연스럽게 밀도가 가장 높은 '중앙값', 즉 평균적인 언어 패턴을 압도적으로 강력하게 학습합니다. 데이터의 양이 늘어날수록 희소하지만 독창적인 비유나 파격적인 관점이 존재하는 '롱테일(Long Tail)' 영역은 확률적 우선순위에서 밀려나고, 통계적 질서라는 거대한 인력 속으로 흡수됩니다. 오차를 최소화하도록 설계된 최적화 과정은 이 수많은 데이터 속에서 가장 출현 확률이 높은 안전하고 평균적인 경로를 선택하도록 모델을 압박하는 것입니다.

이 때문에 인공지능의 발전을 단순히 복잡성의 일방적인 증가로 해석해서는 안 됩니다. 인공지능의 진화 궤적은 거꾸로 뒤집힌 U자 모양의 곡선을 그립니다. 초기 규칙 기반의 인공지능은 사람이 직접 짜 넣은 조건문으로 움직였기에 내부는 투명하고 외형적 행동은 매우 단순했습니다. 반면 방대한 데이터를 집어삼킨 오늘날의 성숙한 거대 모델은 수천억 개의 파라미터로 이루어진 극도로 복잡한 내부를 가졌음에도, 출력되는 결과물은 아이러니하게도 평평하고 예측 가능해집니다. 데이터 분포의 중심부에 안착해버렸기 때문입니다. 우리가 인공지능의 대화에서 지적인 매력과 섬뜩한 통찰을 느끼는 순간은 역설적이게도 데이터의 거대한 통계적 규칙을 막 이해하기 시작했으나, 아직 그 규칙 속으로 모든 표현이 완벽하게 평탄화되지 않은 그 중간 지점입니다. 완벽히 길들여지지 않은 그 경계 영역에서 인공지능은 무수한 데이터의 파편들을 기존의 틀과 다르게 조합하며 예측 불가능한 경로를 비춥니다.

이러한 복잡성은 단순한 정보량이나 무작위성과 다릅니다. 완전한 무작위성은 맥락이 거세된 소음에 불과하여 의미를 만들어내지 못하고, 완전히 정돈된 평균적 데이터의 반복은 명확하지만 아무런 지적 자극을 주지 못합니다. 대화에서 발생하는 진짜 흥분은 '설명 가능한 데이터의 구조'라는 질서 위에 '통계로 완전히 환원되지 않는 예외적 잔여'가 함께 공존하는 이른바 '혼돈의 경계'에서 생겨납니다. 커피잔에 우유가 떨어지는 순간 흑과 백이 얽히며 만들어내는 복잡한 소용돌이처럼, 데이터의 질서와 변종의 무질서가 맞물릴 때 비로소 매혹적인 구조가 드러납니다.

문제는 우리가 모델을 정제하고 길들이는 방식이 이 소용돌이를 너무나 빠르게 지워버린다는 점입니다. 인간의 피드백을 통한 강화학습(RLHF)이나 안전성 가이드라인, 그리고 AI가 생성한 정제된 데이터를 다시 재학습시키는 데이터 큐레이션 과정은 모델이 다루는 언어 생태계에서 '위험 요소'뿐만 아니라 '기이한 창의성'의 싹까지 함께 솎아 냅니다. 데이터의 뾰족한 모서리를 깎아내고 편향과 오류를 제거하는 정밀화 과정은 필연적으로 언어의 다양성을 압축시키며, 통계적 안전지대만을 남깁니다. 우유와 커피가 완전하게 섞이고 나면 컵 안에는 가장 안정적이고 균일하지만 아무런 소용돌이도 보이지 않는 밋밋한 액체만 남게 되는 이치와 같습니다.

결국 인공지능 연구의 본질적인 질문은 이제 단순히 "어떻게 더 방대한 데이터를 투입하여 모델을 크게 만들 것인가"에 머물러서는 안 됩니다. 데이터를 양적으로 쏟아부을수록 모델은 인간의 가장 평균적인 모습만을 거울처럼 반사하며 지루해질 뿐이기 때문입니다. 이제 핵심 질문은 "어떻게 해야 정제된 데이터의 질서 속에서도 데이터 분포의 가장자리에 있는 '롱테일의 독창성'을 보존하고, 어떤 수준의 복잡성을 유지시킬 것인가"로 옮겨가야 합니다.

데이터의 양으로 밀어붙이는 것은 공학의 영역이지만, 평균이라는 매끄러운 표면 위에 적절한 균열을 내고 질서와 혼돈 사이의 아슬아슬한 줄타기를 디자인하는 일은 정교한 철학적·데이터학적 조율이 필요합니다. 평균의 늪에 빠진 데이터는 유능하지만 지루한 도구를 만들 뿐이며, 완전한 무작위 데이터는 신뢰를 잃은 노이즈를 만들어낼 뿐입니다. 인간과 깊게 호흡하는 인공지능은 거대한 데이터의 질서라는 토대 위에서, 통계적 예측을 살짝 비틀어내는 그 혼돈의 경계 지점에 머물러야 합니다. 완벽한 데이터의 평균이라는 이름의 지루함을 넘어, 질서와 변종이 팽팽하게 맞서는 그 지점을 포착해 내는 것이야말로 인공지능을 단순한 효율적 도구를 넘어 인간의 사고를 확장하는 진정한 대화 상대로 만드는 열쇠가 될 것입니다.