경제 영상 한방에
AI가 바꾼 현대전의 민낯: 팔란티어·안두릴·무인 수상정, 그리고 LLM이 불러올 새로운 위협
운영자조회 0추천 0
1. 개요
- 주제 ··· AI가 현대 전쟁 방식을 어떻게 바꾸고 있는가, 그리고 한국 방산과 AI 기업에 어떤 기회가 되는가
- 대담자 ··· 최재현 교수 (광운대 빅데이터 경영학, 전 삼성전자 AI 센터)
- 핵심 메시지 ··· 전쟁의 중심이 하드웨어에서 소프트웨어와 AI 플랫폼으로 이동 중
2. 러시아·우크라이나 전쟁에서 나타난 변화
2-1. 전장에 들어온 AI 소프트웨어
- 우크라이나 장교들 ··· 태블릿을 들고 출전
- GIS 아르타 앱 ··· 타격할 표적을 자동 지정, '포병계의 우버'로 불림
- 팔란티어 ··· 개전 3개월 뒤 CEO 알렉스 카프가 키이우를 방문하고 소프트웨어를 제공
- 고담(Gotham) 플랫폼 ··· 표적 선정부터 작전 수행 주체 결정까지 지원
- 우크라이나 측 언급 ··· 거의 모든 표적 선정에 팔란티어가 관여
2-2. 드론의 진화
- 초기 ··· 단순 FPV 드론 중심
- 신호 교란 대응 ··· 유선(광섬유) 방식 도입
- 현재 ··· AI 탑재로 1,000km 이상 비행, 상트페테르부르크까지 타격
- 항법 방식 ··· GPS, 스타링크, 카메라 지형 비교 학습 순으로 대체
- 종말 단계 ··· 사전 학습한 표적에 스스로 타격
- 러시아 ··· 이란의 샤히드 드론을 도입 후 자체 생산(게란)
- 우크라이나 ··· 자체 제작 자폭드론 운용
3. 팔란티어의 정체와 차별점
3-1. 출발과 성장 과정
- 설립 ··· 2003년, 피터 틸·알렉스 카프 등 페이팔 마피아 중심
- 시작 ··· CIA 투자와 첫 납품으로 B2G 사업 출발
- 계기 ··· 이라크·아프가니스탄 전쟁의 급조폭발물(IED) 추적 솔루션
- 방식 ··· 사건 발생 지역, 요주의 인물, 위험 마을을 데이터베이스화
- 한계 ··· 미군 본격 도입은 2010년대 이후, 2016~17년 소송 끝에 진입
- 저서 ··· 알렉스 카프의 『기술공화국 선언』에 납품의 어려움 기술
3-2. 온톨로지(Ontology)의 핵심
- 기존 방식 ··· 데이터 간 관계를 '명사' 형태로 정리 (소속, 보급처 등)
- 팔란티어 방식 ··· 액션(동사)의 관계까지 정리
- 예시 ··· 전차에 사격 임무 부여 시 입력값, 변경 속성, 수행자, 보고 대상까지 연결
- 강점 ··· 센서·드론·위성·음성·휴민트 등 이종 데이터 통합 처리
- 정보 ··· 오사마 빈 라덴 체포 작전에 일부 사용됐다는 설 (팔란티어는 긍정도 부정도 안 함)
3-3. LLM과의 역할 분담
- 메이븐 스마트 시스템 ··· 팔란티어가 기반(밭), LLM이 추론 담당(두뇌)
- LLM 교체 ··· 클로드에서 GPT로 교체 (트럼프·앤트로픽 갈등 영향)
- LLM 단독 한계 ··· 데이터 미비 시 환각 발생
- 대체 가능성 ··· 직접 구축을 시도하는 기업도 있으나 1% 차이를 못 따라잡아 복귀하는 사례
- 사업 변화 ··· 최근 분기 매출은 B2B가 B2G를 추월
- 구축 방식 ··· 고객사별로 한 땀 한 땀 쌓는 노동집약적 작업
4. AI 지휘통제의 효율성과 윤리 문제
4-1. 표적 선정 효율
- 이라크전 ··· 약 2,000명의 정보 장교 투입
- 이란 전쟁 ··· 약 20명으로 가능, 인력 100분의 1 수준
- 타격 규모 ··· 거의 동일한 수준 유지
4-2. 이스라엘의 사례
- 라벤더 ··· 하마스 조직원으로 의심되는 개인을 AI가 선별
- 웨어 이즈 대디 ··· 표적이 집에 도착하면 알려주고 고정 표적으로 타격
- 시사점 ··· 개인 위치가 특정되면 즉시 공격받을 수 있는 시대
5. 안두릴: 소프트웨어 플랫폼형 방산 기업
5-1. 기업 특징
- 뿌리 ··· 팔란티어 출신 창업자 (팔란티어는 수정 구슬, 안두릴은 보검)
- 구조 ··· OS 플랫폼 '레티스(Lattice)' 위에 다양한 무인 기기 탑재
- 비유 ··· 안드로이드·스마트폰처럼 기성품 방식으로 판매
- 변화 ··· 맞춤 정장식 전통 방산에서 실리콘밸리식 방산 테크로 전환
5-2. 무인 수상정의 부상
- 원리 ··· 작은 무인 자폭 수상정이 스스로 표적을 찾아 타격
- 미국 ··· 이란 군항을 자폭 수상 드론으로 공격
- 흑해 ··· 우크라이나가 제해권을 장악하고 러시아 흑해함대는 크림반도에서 후퇴
- 시사점 ··· 대형 군함은 여전히 필요하나 무인 수상정 사업이 세계적으로 확대
- 한국 ··· HD현대와 안두릴이 무인 수상정 실험 진행
5-3. 무인 전투기(CCA) 사업
- 결과 ··· 제너럴 아토믹스와 함께 안두릴 선정, 록히드마틴·보잉 탈락
- 성과 ··· AIM-120 암람 공대공 미사일 발사 훈련 성공
- 배경 ··· 현대 공중전은 150~200km 이상 비가시권(BVR) 교전 중심
- 사례 ··· 인도·파키스탄 충돌에서 라팔이 중국 J-10C의 원거리 미사일에 피격
6. LLM이 초래할 수 있는 위험
6-1. 모델 간 전쟁 시뮬레이션
- 실험 ··· 영국 킹스칼리지 케네스 페인 교수팀
- 대상 ··· ChatGPT, 클로드, 제미나이
- 결과 ··· 21번의 전쟁 중 20번에서 핵전쟁 발생
- 특징 ··· 모델마다 페르소나가 다르며 상대 성향을 파악해 대응
- 사례 ··· 클로드는 초반에 협조적이다가 소규모 핵 사용, 제미나이는 공격당하다 폭발
6-2. 예상 시나리오
- 정보전·사이버전 ··· 상대가 쓰는 LLM 파악이 최우선
- 공격 방식 ··· 프롬프트 탈취, 휴민트 침투, 간첩을 통한 LLM 교란·교체
- 보안 ··· 자국 LLM 정보 은폐 필요
- 아첨 성향 ··· 사용자 입맛에 맞추는 경향이 강해 지휘관이 확증편향에 빠질 위험
- 자동화 편향 ··· AI가 오답을 내면 의사 실험에서도 50~80%가 따라서 오답
6-3. 대응 방안
- 교육 ··· AI 출력을 맹신하지 않도록 훈련
- 제도 ··· AI 제안을 거부해도 불이익이 없도록 규정
- 지침 ··· LLM 사용 장교 대상 사전 훈련 강화
- 해법 ··· 내부 로컬 데이터 기반 시스템(팔란티어형)이 환각 위험을 상대적으로 줄임
7. 한국과 각국의 대응
- 한국 ··· 방산 기업들이 팔란티어와 협업, 대통령도 'K-팔란티어' 언급
- 쟁점 ··· 팔란티어에 의존할지, 독자 구축할지 결정 필요
- 우려 ··· 로컬 데이터를 해외 민간 기업에 맡길 경우 주권 문제와 영구적 AS 의존
- 일본 ··· 협업과 자체 개발 사이에서 갈팡질팡
- 나토 ··· 미국 메이븐 스마트 시스템 도입
- 투자 관점 ··· 국방 AI 투자국은 소수(미국·중국 중심), 향후 논란은 팔란티어보다 LLM 쪽에서 발생 전망
8. 결론
- 방산 패러다임 ··· 하드웨어 중심에서 소프트웨어·플랫폼 중심으로 전환
- 승자 조건 ··· 이종 데이터 통합, 로컬 데이터 기반 AI, 무인 플랫폼 확장성
- 핵심 리스크 ··· LLM의 환각, 아첨 성향, 조작 가능성과 인간의 AI 과신
- 과제 ··· 데이터 주권 확보와 AI 활용 교육·제도 정비
목록으로
댓글 0
첫 댓글을 기다리고 있습니다.
댓글 입력 칸을 불러오는 중…