2025년 8월 4주차 - AI Data News Lab 2025년 8월 4주차 AI Data News Lab |
|
|
|
2016년, 이세돌 9단과 알파고의 두 번째 대국에서 기존 바둑경기에서는 볼 수 없는 매우 혁신적이고 파격적인 수가 등장했습니다. 이 수는 바둑판의 가장자리에서 다섯 번째 줄에 둔 것으로, 기존 바둑에서는 집 손해가 커 잘 두지 않는 수인데요. 알파고는 이 37수를 통해 우변 중앙 세력과의 조화를 고려했고, 이는 인간 프로 기사들조차 예상하지 못한 창의적인 수로 평가받았습니다.
당시 이세돌 9단은 물론 해당 경기를 지켜보던 바둑 팬들에게 큰 충격을 안겨주었던 이 37수는 AI 기술 발전에 있어 아주 큰 의미를 지니고 있는데요. 최근 구글에서 출시한 지니 3가 그 뒤를 이을 AI 모델이 될 수도 있다고 합니다. |
|
|
구글 딥마인드가 현지 시간 기준 지난 5일, 실시간 인터랙티브 3D 환경을 창조하는 범용 월드 생성 모델 ‘지니 3(Genie 3)’를 공개했습니다. 블로그 'Genie 3: A new frontier for world models' 글을 통해 자세한 내용을 확인할 수 있는데요. 지니 3는 현실과 상상의 경계를 자유롭게 넘나드는 포토리얼리틱 3D 세계를 생성할 수 있습니다. 특히, 초당 24프레임, 720p 고해상도로 실시간 생성할 수 있다는 점이 특징입니다. 무엇보다 텍스트 프롬프트만으로 수 분간 역동적인 세계를 탐험할 수 있다는 점도 돋보입니다.
또한, 지니 3는 날씨 변화나 객체 생성 같은 ‘프롬프트 기반 월드 이벤트’도 실시간으로 만들어 낼 수 있습니다. 즉, 사용자가 원하는 텍스트 명령어를 입력하면, 그에 맞추어 즉각적으로 환경이 반응하는 등 인터랙티브성이 대폭 강화된 것을 느낄 수 있습니다.
구글 딥마인드는 지니 3가 복잡한 물리 엔진이 없어도, 스스로 물리 법칙을 학습하고 적용하는 자율적인 모델이라고 설명했습니다. 자기회귀(auto-regressive) 방식을 통해 이전 상황을 기억하며 다음 상태를 예측해내기 때문에, 사물의 위치와 상태가 시간이 흘러도 일관되게 유지됩니다.
이러한 특성은 게임과 교육 콘텐츠를 넘어 AI 에이전트와 로봇 훈련에 혁신적인 도구가 될 것으로 기대를 모으고 있습니다. 구글 딥마인드는 지니 3를 “인공지능의 궁극 목표인 AGI로 향하는 여정에서 중요한 전환점”이라고 평가하며, 사람처럼 환경을 직접 체험하고 학습하는 ‘체화 학습(embodied learning)’이 가능한 AI 개발에 핵심 역할을 할 것이라 강조했습니다.
|
|
|
최근 연구에 따르면, 인공지능 챗봇과 대화하며 그와 마치 동반자처럼 관계를 맺는 사람들은 스스로 느끼는 웰빙 수준이 다소 낮은 경향을 보인 것으로 나타났습니다.
|
|
|
연구팀(Yutong Zhang 외)은 시뮬레이션 파트너, 롤플레이, 교육, 대화 등 다양한 용도로 AI 챗봇 서비스를 제공하는 Character.AI 이용자 1,131명을 대상으로 설문조사를 실시했습니다. 또한, 244명의 동의를 받아 총 4,363건, 413,509개에 달하는 실제 채팅 기록도 함께 분석했는데요.
이용 동기에 대한 설문에서는 생산성, 호기심, 오락, 동반자 중 하나를 선택하도록 했고, 자유로운 기술형 답변도 받은 다음, 해당 응답은 GPT-4o로 분석해 4가지 동기로 분류했습니다. 또 실제 대화 길이, 민감한 정보 공유 수준, 인간적 사회 지원(가까운 인간관계 수) 등도 함께 조사해 비교했습니다. 이러한 웰빙 평가는 만족감, 외로움, 소속감, 긍·부정적 감정, 사회적 지원 등 6개 항목으로 이뤄졌으며, 채팅 기록 분석에는 LLaMA-3-70B와 TopicGPT가 활용됐습니다.
해당 조사 결과, 챗봇을 ‘동반자’로 이용한다고 밝힌 이용자일수록 웰빙 점수가 낮은 것으로 나타났는데요. 전체 응답자 중에서 12%가 ‘동반자’를 주된 사용 동기로 꼽았지만, 실제로는 51%가 챗봇을 친구, 동반자, 연인 등으로 묘사했고, 챗봇 사용자의 93%가 최소 한 번은 동반자적 역할의 대화를 나눈 것으로 나타났습니다. 또 전체 채팅 중 80%에서는 정서적·사회적 지지, 68%에서는 연애·친밀한 역할놀이가 있었습니다.
연구팀은 특히 '동반자 관계'를 목적으로 챗봇을 이용한다고 밝힌 그룹에서 웰빙 저하가 더 두드러지는 것을 확인했습니다. 다만, 원인이 무엇인지는 명확하지 않았습니다. 챗봇을 쓰는 사람들이 원래 외로움을 더 느껴서 챗봇을 찾는 것인지, 아니면 챗봇 사용이 오히려 인간관계로부터 멀어지게 하는지는 추가 연구가 필요한 건데요. 즉, 원래 외로움을 느끼거나 사회적 관계가 약한 이들이 챗봇을 찾았을 가능성이 있지만, 챗봇 사용이 외로움에 영향을 줬는지에 대해서는 추가 연구가 필요하다고 설명했습니다.
연구팀은 “AI 동반자가 단기적으로 외로움, 정서적 고통 완화에 도움을 줄 수 있지만, 과도한 의존이나 인간관계에 대한 왜곡된 기대를 불러올 가능성도 있다”며, “챗봇이 인간관계의 대체재가 아닌, 균형 잡힌 지원 수단으로 활용될 수 있도록 기술 개발과 사회적 지원이 병행될 필요가 있다”고 덧붙였습니다.
|
|
|
LLM을 이용해 변종 멀웨어(Malware)를 만들 수 있을까?
얼마 전, 국내 대표 인터넷 도서 기업 중 하나인 예스24가 랜섬웨어 공격을 받아 모든 서비스가 중단되는 사건이 발생했습니다.1) 당초 회사 측은 단순 해킹 사고로 서비스 자체는 백업본을 이용해 금방 복구할 수 있다고 공지했지만, 실제로는 모든 파일이 암호화되는 랜섬웨어에 감염되었고 백업본마저 손상된 상태였습니다. 결국 며칠이 지나서야 비로소 일부 서비스가 복구되었으며, 완전 정상화까지는 약 열흘 가까이 걸렸습니다. 이 기간 동안 매출 공백은 물론, 예스24 같은 ‘대형 온라인 서비스조차 보안 취약점이 많고, 백업본 관리가 허술하다’는 인식이 퍼지면서 브랜드 이미지에 큰 타격을 입게 되었습니다.
사실, 요즘처럼 거의 모든 기기가 인터넷에 연결되기 전에도 바이러스는 존재했습니다. 과거에는 지금과는 달리 저작권이 철저하게 지켜지지 않아서 불법이라는 인식도 없이 PC를 구입하면 각종 소프트웨어를 ‘덤’처럼 설치해 주었고, 지인들끼리도 새로 나온 소프트웨어가 있으면 서로 복제해 주었습니다. 이 틈을 타, 인기 게임이나 고가의 소프트웨어로 위장한 악성 바이러스가 퍼지기도 하였습니다.
그리고 2022년 말에 등장한 챗GPT는 우리 생활에 빠르게 파고들면서 이제는 구글이나 네이버 대신 챗GPT에 질문하는 사람들이 늘어났습니다. 한동안 ‘지브리 스타일’의 프로필 이미지가 유행이었던 것에서 알 수 있듯이, 이미지 생성에도 탁월한 성능을 보여주고 있습니다. 코딩 능력도 무척 뛰어나 숙련된 개발자보다 생산성이 높은 경우도 많으며, 업무 보조로 활용하는 바이브 코딩 또한 빠르게 확산되고 있습니다. 얼마 전 인간과 생성형 AI의 코딩 대결에서 간발의 차로 인간이 승리했지만, 결과가 역전되는 것은 시간문제라는 전망이 지배적입니다.2)
LLM은 멀웨어를 만들 수 있을까?
LLM의 코딩 능력이 뛰어나기 때문에 기본적인 개발 역량이 있는 사람들은 업무 생산성을 높이는 데 적극 활용하고, 그렇지 않은 사람들도 자신이 원하는 프로그램을 만들기 위해 끊임없이 LLM과 대화하면서 코드를 수정해 나갑니다. 실제로 인터넷에 올라온 글들을 보면 ‘개발 지식이 전혀 없었지만, LLM을 이용해 직접 프로그램을 만들었다’는 사례가 다수 공유되고 있습니다.
이처럼 새로운 기술이 등장하면 인류에 긍정적인 변화를 가져올 수 있지만, 반대로 이러한 LLM의 능력을 부정적으로 활용할 가능성도 존재합니다. 랜섬웨어(Ransomware)나 멀웨어(Malware)는 한 번 침투하면 시스템에 심각한 피해를 입히고 완전히 복구하기도 쉽지 않은데, LLM을 악용하려고 시도하는 사람들도 있을 것입니다.
LLMalMorph3)라는 연구는 기존 멀웨어의 소스코드를 바탕으로 LLM이 변종 멀웨어를 만들 수 있는지를 검증합니다. LLM으로 변종 멀웨어를 만드는 방법이 알려진다면 보안의 위험성이 한층 커질 수 있습니다. 그러나 역설적으로 LLM이 어떤 방법으로 생성하는지를 이해해야 이를 막을 수 있는 방법에 대한 연구도 이뤄질 수 있기 때문에, 이 논문은 해당 연구 결과를 공개하며 보안 연구의 필요성을 강조하고 있습니다.
LLMalMorph를 이용한 변종 멀웨어 생성 단계
LLMalMorph는 다음과 같은 순서로 기존 멀웨어를 이용해 변종 멀웨어를 만들었습니다.
|
|
|
< 그림 1. LLMalMorph 동작 순서 > |
|
|
기능 변형기 (Function Mutator)
이 모듈은 LLM을 사용해 멀웨어의 소스코드를 변형하며, 아래와 같은 순서로 이루어집니다.
1. 추출기 (Extractor)
- 기존 멀웨어의 소스코드를 분석해서 함수 및 각종 변수들을 추출합니다.
2. 프롬프트 생성기 (Prompt Generator)
- LLM이 멀웨어를 수정할 수 있도록 코드 최적화나 난독화를 하고, 추출한 함수나 변수 등을 변형하도록 하는 프롬프트를 생성합니다.
3. LLM 기반 기능 수정 (LLM Based Function Modifier)
- 생성한 프롬프트를 LLM에 입력해 새로운 코드를 생성하도록 하며, LLM이 원하는 형식으로 코드를 생성하지 못했을 경우 반복적으로 재시도를 합니다. 이 논문에서는 코드를 생성하는 LLM으로 Codestral-22B를 사용하였습니다.
|
|
|
< 그림 2. LLM이 코드를 변형하도록 할 때 사용한 프롬프트 일부 > |
|
|
변종 생성기 (Variant Synthesizer)
이 모듈은 LLM이 생성한 코드로 실제 변종 멀웨어를 생성하며 아래와 같은 순서로 이루어집니다.
1. 병합기 (Merger)
- LLM을 이용해 변형한 기존 멀웨어의 소스코드 일부를 원래의 소스코드에 통합합니다. 이때 기존 소스코드와 일관성을 유지하고, 새롭게 추가된 함수가 있다면 정의 및 구현 부분을 각각 포함시킵니다.
2. 컴파일 및 디버깅 (Compile and Debugging)
- LLM이 변형한 코드는 전체 소스코드의 일부이므로 병합했을 때 전체 소스코드가 컴파일되지 않을 수도 있습니다. 이 단계에서는 사람이 최소로 개입해 로직은 그대로 유지하고 컴파일 과정에 발생하는 문법적인 오류에 대해서만 수정해 컴파일이 될 수 있도록 합니다.
LLMalMorph로 만든 변종 멀웨어를 어떻게 테스트했을까?
멀웨어는 기본적으로 PC에 피해를 주기 위해 만들어진 소프트웨어입니다. LLM을 이용해서 변종 멀웨어를 만들었을때, 이를 실제 PC에서 테스트한다면 정확히 어떻게 동작하도록 바뀌었는지 모르는 상태에서 어떤 피해를 입을지도 모릅니다.
그래서 샌드박스(Sandbox)를 만들어 제한된 환경에서 테스트하였는데, 샌드박스는 기존 시스템과 연동하지 않도록 독립적으로 구성할 수 있고 만약 문제가 발생해도 샌드박스만 중단하면 되기 때문입니다. 또, 기존 멀웨어와의 동작의 차이를 보기 위해서 API 호출 순서를 비교해 얼마나 기능을 보존하였는지 기능 보존율 지표(ΦM)를 만들어 결과를 측정하였습니다.
|
|
|
< 표 1. 4개의 멀웨어에 대한 Virus Total과 Hybrid Analysis의 탐지율 > |
|
|
위 표에서 알 수 있는 것처럼, 일부 멀웨어에 대해서는 LLMalMorph로 변종 멀웨어를 만들었을때 바이러스 탐지 소프트웨어의 탐지율이 떨어져 LLMalMorph가 효과가 있음을 알 수 있습니다.
이 방법을 멀웨어를 만드는 데 바로 활용할 수 있을까?
연구 결과에서 확인할 수 있듯 LLMalMorph에서 제안하는 방식은 실제 환경에도 충분히 적용될 수 있습니다. 이번 연구의 목적은 LLM이 멀웨어의 소스코드를 분석해 변종을 생성하는 것이 가능한지, 만약 가능하다면 보안을 연구하는 기업이나 연구소, 대학 등에서 AI를 이용한 새로운 위협에 대응할 수 있도록 하는 통찰을 제공하는 데 있습니다.
최근 LLM의 코딩 역량이 크게 향상되면서, 이를 업무 보조에 활용할 경우 생산성이 비약적으로 높아진다는 기사도 많습니다. 그러나 딥페이크처럼 새로운 기술이 긍정적 활용과 동시에 부정적 영향도 가져오듯, LLM 역시 기존 멀웨어의 변형이나 새로운 멀웨어 생성에 악용될 가능성도 존재합니다.
LLMalMorph 연구는 이러한 가능성이 현실로 충분히 이어질 수 있음을 검증하였습니다. 앞으로는 단순한 기능 고도화뿐 아니라, 코딩 영역에서도 윤리·도덕적 가이드라인을 반영한 ‘안정성(Safety) 데이터셋’의 필요성이 커질 것으로 보입니다.
|
|
|
네이버클라우드, 업스테이지, SK텔레콤, NC AI, LG AI연구원이 정부 ‘독자 AI 파운데이션 모델 프로젝트’에서 5개 정예 팀으로 선정됐습니다. 해당 컨소시엄들은 텍스트·이미지·오디오·영상 등 다양한 데이터를 아우르는 고성능 AI 모델 개발과 국민 서비스 확대를 목표로 합니다. 네이버클라우드는 옴니 파운데이션 모델 기반의 전 국민 AI 서비스 플랫폼과 AI 에이전트 마켓플레이스를 운영한다고 밝혔으며, 업스테이지는 글로벌 수준의 ‘솔라 WBL’ 모델을 개발해 3년간 1000만 명 이상 대국민 AI 서비스 제공을 계획하고 있습니다. SK텔레콤은 포스트-트랜스포머 AI 모델로 B2C와 B2B 분야에서 AI 확산을 추진하며, NC AI는 2000억 개 매개변수 규모 모델로 산업 특화 플랫폼을 구축합니다. 정부는 약 1,576억 원 규모의 컴퓨팅 자원과 인건비를 지원하며, 연말 1차 평가 후 4개 팀으로 선별해 집중 지원할 예정입니다.
👉🏻오픈AI, 美 정부에 챗GPT '연 1달러'에 제공…"AI 도입 확산"
오픈AI는 챗GPT 엔터프라이즈 버전을 미 연방 정부 기관에 향후 1년간 1달러에 제공한다고 발표했습니다. 챗GPT 엔터프라이즈는 보안과 개인정보 보호 기능이 강화된 버전으로, 연방 정부 직원들은 사실상 무료로 이용할 수 있게 된 건데요. 이번 제공은 백악관의 AI 도입 확대 정책을 지원하며, 연방 공공 부문 내 AI 확산에 중점을 두고 있습니다. 오픈AI는 정부 전용 사용자 커뮤니티와 맞춤형 교육 과정을 마련해 정부 직원들의 활용을 돕게 됩니다. 정부 직원들의 데이터는 AI 모델 학습에 사용하지 않으며, 재계약 의무도 없다고 하는데요. 이미 약 9만 명의 공공 부문 직원이 오픈AI 기술을 사용 중이며, 챗GPT 주간 사용자는 약 7억 명에 이르고 있습니다.
👉🏻‘마누스’가 뭐길래...“세계 최초 범용 AI”라 자평까지
중국 스타트업 버터플라이 이펙트 테크놀로지가 개발한 AI 서비스 ‘마누스(Manus)’는 3월 출시 이후 ‘범용 인공지능(AGI)’으로 주목받으며 글로벌 관심을 모으고 있습니다. 마누스는 특정 업무 수행이 가능한 AGI를 표방하며, AI 비서 역할을 통해 문서에서 정보를 추출해 이력서를 완성하는 등 실제 작업을 지원합니다. 개발진은 마누스를 ‘세계 최초 범용 AI 비서’라고 자평했으나, 미국의 IT 매체는 주문 예약 등 실사용에서 오류가 잦아 성능이 기대에 미치지 못한다고 평가하기도 했습니다. 미국과 중국을 포함한 글로벌 AGI 경쟁은 가열되고 있으며, 오픈AI, 구글, 메타 등도 AI 비서와 업무 자동화 에이전트 개발에 적극 나서고 있어, 향후 글로벌 AGI 기술 시장 선점을 위한 경쟁이 더욱 치열해질 전망입니다.
|
|
|
플리토가 과학기술정보통신부가 추진하는 ‘독자 AI 파운데이션 모델 개발사업’에서 업스테이지 컨소시엄의 데이터 제공 파트너이자 민간 컨소시엄 참여 기업으로 최종 선정되었습니다. 이번 사업은 향후 5년간 100조 원 규모로 한국형 초거대언어모델(LLM) 독자 기술을 개발하고, AI 주권 실현을 목표로 합니다. 플리토는 업스테이지 컨소시엄의 학습용 및 평가용 데이터 구축을 전담하며, 솔라(SOLAR) 시리즈 LLM 개발에 기여합니다. 해당 컨소시엄은 스타트업 중심으로 구성됐으며, 노타, 래블업, 플리토 등 12개 기관과 대학·연구기관이 참여합니다. 플리토는 DQ 인증을 받은 생각의 사슬(CoT) 데이터 개발과 인간 피드백 기반 강화학습(RLHF)으로 풍부한 LLM 학습 데이터 구축 경험을 갖추고 있습니다.
|
|
|
플리토는 메타가 서울, 도쿄, 상하이에서 주최한 3개국 글로벌 행사에 AI 동시통역 솔루션 ‘라이브 트랜스레이션’을 성공적으로 제공했습니다. 서울과 도쿄에서 열린 메타 페스티벌에서는 영어 발표를 AI 기반 현지 언어로 실시간 번역해 대형 스크린에 정확하고 가독성 높게 송출했습니다. 두 행사에서의 성공적인 운영을 통해 중국 상하이 서밋 행사에서는 별도의 현장 인력 없이 원격 방식으로 AI 동시통역을 안정적으로 지원해 운영 효율성을 입증했습니다. 이번 사례로 플리토는 메타의 아시아 3개국 대형 오프라인 행사에 글로벌 소통을 지원함으로써 아시아 시장 내에서의 AI 통번역 기술 신뢰도를 더욱 공고히 다졌습니다. |
|
|
Beyond Language Barriers!
|
|
|
플리토 (Fliitto Inc.)
서울 강남구 영동대로96길 20 대화빌딩 6층
|
|
|
|
|
