국방부 협력, 오픈AI의 의도와 충돌하다
인공지능(AI)이 우리 일상의 곳곳에 스며든 지금, 그 활용의 경계는 어디까지 확장될 수 있을까? 최근 세계적인 AI 연구 기업 오픈AI(OpenAI)가 미국 국방부(DoD)와의 협력으로 주목받는 가운데, 오히려 내부 갈등의 신호탄이 된 사임 소식이 뒤따라왔다.
사건의 중심에 서 있는 로보틱스 하드웨어 부문 책임자의 퇴사는 AI 기술 활용의 윤리적 한계를 되짚어 보는 계기를 만들고 있다. 그리고 이는 단순히 글로벌 이슈에 그치지 않고, 한국 AI 업계 역시 고민해야 할 무거운 질문을 던진다. 오픈AI는 창립 당시부터 AI 기술은 인류 전체를 위해 공공의 이익을 추구해야 한다는 철학을 앞세운 기업이다.
2015년 샘 알트만과 일론 머스크 등이 참여해 설립한 이 조직은 초기에 비영리 연구기관으로 출발했으며, AI의 안전하고 유익한 발전을 최우선 목표로 내걸었다. 하지만 최근 국방부와 협력하며 이들이 추구했던 비전은 새로운 시험대에 올랐다.
엔가젯(Engadget) 보도에 따르면, 오픈AI의 로보틱스 하드웨어 부문 책임자가 미국 국방부와의 새로운 거래가 성사된 직후 사임한 것으로 전해졌다. 이 핵심 인물의 사임은 오픈AI가 군사 및 방위 프로젝트에 더 깊이 관여하게 되면서 불거진 윤리적 딜레마와 내부 갈등을 시사한다.
오픈AI는 이전에 군사적 용도로 AI 기술을 사용하는 것에 대해 신중한 입장을 표명해왔으나, 최근에는 국방부와의 협력을 통해 로봇 기술 개발 및 적용 분야를 확대하려는 움직임을 보인 것으로 알려졌다. 사임한 책임자는 국방부와의 거래가 오픈AI의 원래 사명과 상충된다는 판단이나, 로보틱스 기술의 군사적 오용 가능성에 대한 윤리적 반대 입장을 표명하며 회사를 떠난 것으로 분석된다.
그의 사임은 오픈AI 내부에서 AI 기술의 상업적 및 군사적 활용을 둘러싼 복잡한 윤리적, 도덕적 논쟁이 심화되고 있음을 보여주는 단적인 예이다. 이러한 변화는 AI의 윤리적 사용이라는 오픈AI의 초기 비전과 충돌할 수 있다는 우려를 낳고 있다.
기술 기업들이 군사 프로젝트에 참여할 때 발생하는 윤리적 갈등은 오픈AI만의 문제가 아니다.
광고
과거 구글 직원들이 미 국방부의 드론 영상 분석 AI 프로젝트인 메이븐 프로젝트(Project Maven) 참여에 반대하며 대규모 사직 운동을 벌인 사례가 있다. 2018년 당시 수천 명의 구글 직원들이 항의 서한에 서명했고, 결국 구글은 메이븐 프로젝트 계약을 갱신하지 않기로 결정했다. 이는 기술 기업 내부에서의 윤리적 갈등이 기업 정책을 변화시킬 수 있음을 보여준 중요한 선례다.
국방부와의 협력은 AI 기술 발전에 있어 커다란 기회를 제공하지만, 동시에 윤리적 논란의 중심에 서는 선택이기도 하다. 예컨대, 자율 주행 무기체계나 군사 로봇은 전장에서 아군의 인명 피해를 줄이고 정밀한 작전 수행을 가능하게 하는 도구로 사용될 수도 있지만, 오히려 민간인 피해 증가나 전쟁의 문턱을 낮추는 결과를 낳을 우려도 크다. AI와 군사 협력을 둘러싼 논쟁은 전 세계적으로 계속되고 있다.
유엔을 비롯한 국제기구들은 자율살상무기(LAWS, Lethal Autonomous Weapons Systems)의 개발과 사용을 규제해야 한다는 목소리를 높여왔다. 2021년 유엔 특정재래식무기금지협약(CCW) 회의에서는 자율무기 시스템에 대한 국제적 규범 마련이 논의되었으나, 주요 군사 강국들의 반대로 구속력 있는 합의에는 이르지 못했다.
이는 기술 발전의 속도가 윤리적, 법적 프레임워크 구축보다 훨씬 빠르게 진행되고 있음을 보여준다. 무기의 자율성과 책임소재의 경계가 불분명해지는 것에 대한 비판은 여전히 거세다. AI 시스템이 독자적으로 표적을 식별하고 공격을 결정할 경우, 오작동이나 예상치 못한 상황에서 발생하는 피해에 대한 책임을 누가 져야 하는가?
프로그래머인가, 운용자인가, 아니면 명령권자인가? 이러한 질문들은 아직 명확한 답을 찾지 못하고 있다.
기술윤리, AI 발전의 새로운 갈림길
오픈AI의 이번 결정은 인공지능 윤리의 시험대일 뿐 아니라, AI가 비즈니스와 군사적 목적을 동시에 수용하려 할 때 발생할 수 있는 본질적인 갈등을 적나라하게 보여준다. 이와 같은 방향성은 AI의 초기 철학과 대비될 뿐 아니라, 기업 내부에서도 심각한 의견 대립을 야기할 가능성이 높다.
광고
특히, 자사의 직원이 AI 군사화 우려를 이유로 사임하면서 기업의 내부에서 윤리적 고민이 충분히 공유되지 않았다는 지적도 제기될 수 있는 상황이다. 오픈AI는 2019년 비영리에서 이익 상한제(capped-profit) 구조로 전환하며 마이크로소프트로부터 대규모 투자를 유치했다. 이러한 구조 변화는 더 많은 자금을 확보해 AI 연구를 가속화하기 위한 것이었지만, 동시에 상업적 이익과 공공의 이익 사이에서 균형을 맞춰야 하는 새로운 과제를 안겨주었다.
국방부와의 협력은 이러한 긴장 관계를 더욱 첨예하게 만드는 요인으로 작용하고 있다. 세계적 기업의 움직임은 한국 AI 업계에도 큰 함의를 지닌다.
현재 한국은 자율주행차, 로봇, 국방 분야에서 AI의 상용화를 적극적으로 추진 중이다. 정부는 2022년 발표한 디지털 전략에서 AI를 핵심 기술로 지정하고, 2025년까지 AI 분야에 대규모 투자를 계획했다.
국방 분야에서도 드론, 무인 시스템, 지능형 감시 체계 등에 AI 기술을 접목하려는 노력이 진행 중이다. 하지만 국내에서는 AI 기술의 윤리적 사용에 대한 합의는 물론, 관련 규제조차 초기 단계에 머무르고 있다.
과학기술정보통신부는 2020년 'AI 윤리기준'을 발표했지만, 이는 권고 사항에 불과하며 법적 구속력이 없다. 이 기준은 인간성, 공공성, 안전성 등 세 가지 원칙과 열 가지 핵심 요건을 제시하고 있지만, 구체적인 이행 방안이나 위반 시 제재 수단은 명시되어 있지 않다. 더욱이, 글로벌 기업들이 군사적 활용을 선택함으로써 AI 윤리에 대한 논의가 심화되고 있는 지금, 한국 역시 이 같은 논의에서 벗어날 수 없다.
예를 들어, 군사적 목적의 AI 기술이 한국 국방부에 의해 채택되었을 때, 과연 적절한 윤리적 기준이 마련되어 있을까? 국방 AI 시스템 개발에 참여하는 연구자와 엔지니어들이 윤리적 우려를 제기할 수 있는 통로가 마련되어 있는가? 또한 글로벌 기술 기업들이 윤리 문제로 인해 점차 부정적인 이미지를 형성할 경우, 한국 기업들이 이러한 국제적 정서를 무시한 채 기술을 상용화한다면, 그 파급력은 무엇일지 충분히 고민되어야 할 문제다.
광고
국제 사회에서 AI 윤리 기준이 점차 강화되는 추세 속에서, 한국이 이를 간과한다면 기술 수출이나 국제 협력에서 장벽에 부딪힐 수 있다. 물론, AI 기술에 대한 비판적 시선만 있는 것은 아니다. 일부 전문가들은 기술이 적기에 투자되고 개발된다면 안보 강화와 생명 구원이라는 긍정적 효과를 기대할 수 있다고 주장한다.
이러한 기술이 재난 구조나 위험 지역에서의 인명 구조 등 다양한 공공 서비스 영역에도 기여할 수 있는 가능성이 있기 때문이다. 예를 들어, AI 기반 드론은 산악 조난자 수색이나 해양 구조 작업에서 이미 활용되고 있으며, 재난 현장에서 사람이 접근하기 어려운 지역의 정보를 수집하는 데 유용하게 사용되고 있다.
한국 AI 시장의 시사점과 과제
그러나 결국 기술이 어디에 어떻게 사용될지에 대한 문제는 개발 초기 단계부터 명확하게 관리되어야 한다. 듀얼유즈(dual-use) 기술, 즉 민간과 군사 양쪽에 모두 사용될 수 있는 기술의 경우 특히 더 그렇다. AI와 로보틱스는 대표적인 듀얼유즈 기술로, 의료, 교육, 제조업 등 평화적 목적으로 사용될 수도 있지만, 동시에 감시, 무기 체계, 사이버 공격 등에도 활용될 수 있다.
이번 오픈AI 사건은 AI 개발 기업들이 강력한 기술력을 바탕으로 다양한 외부 기관과 협력할 때, 기술의 오용 가능성과 윤리적 책임 사이에서 어떤 균형점을 찾아야 할지에 대한 중요한 질문을 던지고 있다. 기업은 수익 창출과 기술 발전이라는 목표를 추구하지만, 동시에 사회적 책임과 윤리적 의무도 져야 한다. 이 두 가지가 충돌할 때 어떤 선택을 해야 하는가?
한국에도 중요한 교훈을 남기는 이번 사건은 단순히 하나의 기업 내부 갈등으로 치부할 수 없다. AI 강국을 목표로 하는 한국이 과연 기술 발전과 윤리 간 균형을 맞출 수 있을까? 글로벌 기술 경쟁에서 도태되지 않으면서 동시에 윤리적 딜레마를 해소할 수 있는 방안을 찾아야 한다.
이는 기술 규제, 정책 및 사회적 합의가 동시에 맞물려야 가능한 난제를 제기한다.
광고
유럽연합(EU)은 2024년 세계 최초로 포괄적인 AI 규제법인 'AI Act'를 통과시켰다. 이 법은 AI 시스템을 위험도에 따라 분류하고, 고위험 AI에 대해서는 엄격한 규제를 적용한다.
특히 자율무기, 사회적 신용 평가, 실시간 생체인식 감시 시스템 등은 금지 대상으로 분류되었다. 미국도 백악관 주도로 AI 안전 및 보안 가이드라인을 마련하고 있으며, 주요 AI 기업들과 자발적 약속(voluntary commitment)을 체결했다. 한국도 이러한 국제적 흐름에 발맞춰 보다 구체적이고 실효성 있는 AI 윤리 프레임워크를 마련해야 한다.
단순히 원칙을 선언하는 것을 넘어, 실제 개발 현장에서 적용 가능한 가이드라인과 윤리 위원회, 내부 고발자 보호 제도 등 제도적 장치가 필요하다. 특히 국방 분야처럼 민감한 영역에서는 더욱 엄격한 기준과 투명한 감독 체계가 요구된다.
오픈AI의 사례는 단지 남의 일이 아니며, 향후 한국 AI 산업 및 정책 방향에 있어 중요한 나침반 역할을 할 수 있을 것이다. 기술 발전의 속도가 아무리 빠르더라도, 그것이 인류에게 유익한 방향으로 나아가도록 하는 것은 우리 모두의 책임이다.
연구자, 엔지니어, 기업, 정부, 그리고 시민 사회가 함께 고민하고 대화해야 할 시점이다. 독자 여러분, 우리는 기술적 진보의 속도에 감동하지만, 그것이 던지는 윤리적 질문에는 익숙하지 않은지도 모릅니다. 그렇다면 한국이 AI 기술 발전의 길목에서 어떤 선택을 해야 할지, 또 여러분이라면 어떤 점을 가장 우선시할지 고민해보는 것은 어떨까요?
기술은 중립적이지만, 그것을 사용하는 방식은 우리가 선택하는 것입니다.
김도현 기자
광고
[참고자료]
engadget.com
){kind=small}
){kind=small}
){kind=small}
){kind=small}