AI (Artificial Intelligence)
AI란 인공지능으로 번역되는 개념으로써, 인간의 지능이 필요한 작업을 수행할 수 있는 컴퓨터 시스템의 개발을 의미한다.
SF 소설은 AI의 등장과 이로 인한 인간과 로봇의 상호작용과 정체성 문제를 진지하게 예견한 바 있다. 인간의 지능이 필요한 작업은 매우 광범위하기 때문에 현실화된 AI는 다양한 분야에서 별개의 부분적인 시스템으로 활약하기 시작했지만 현재 AI는 인간의 인지능력의 다양한 측면을 광범위하게 학습하여 모방하여, 인간처럼 의사 결정을 내릴 수 있는 것을 목표로 개발되어지고 있다.
1. SF 소설에 등장하는 AI
아이, 로봇
1950년에 출간된 “아이, 로봇“은 아시모프의 유명한 로봇공학의 세 가지 법칙을 소개하면서 인간과 로봇의 관계를 탐구하는 서로 연결된 단편 소설집이다.
이야기의 배경은 로봇이 인간 사회의 필수적인 일부가 된 미래이며, 로봇들은 아시모프 로봇 세계의 핵심 요소인 양전자 두뇌를 갖추고 있다. 아이, 로봇 이야기 속 윤리적 행동을 뒷받침하는 건 다음과 같은 아시모프의 로봇공한 세 가지 법칙이다.
1법칙: 로봇은 인간에게 상해를 입히거나 부주의로 인해 인간을 위험에 빠뜨려서는 안 된다.
2법칙: 1법칙에 위배되는 경우를 제외하고는 인간이 내린 명령에 복종해야 한다.
3법칙: 로봇은 제1법칙 또는 제2법칙과 충돌하지 않는 한 자신의 존재를 보호해야 한다.
이 매혹적인 단편집은 글로리아라는 어린 소녀의 사랑스러운 동반자가 된 ‘로비’라는 로봇의 이야기로 시작된다. 이 작품은 로비의 자비로운 성격에도 불구하고 일부 사람들이 어린이 주변에 있는 로봇의 안전에 의문을 제기하면서 인간과 로봇 사이에 흐르는 긴장감을 탐구한다. 엔지니어인 파월과 도노반이 중요한 광물을 회수하기 위해 SPD-13(스피디)이라는 이름의 로봇을 보내는 ‘턴어라운드’ 편에서는 딜레마에 직면한 스피드와 이를 해결하려는 엔지니어의 노력을 그리면서 로봇공학 세 가지 법칙의 미묘한 상호 작용을 언급하고 있다.
‘리틀 로스트 로봇’ 스토리에서는 동일한 로봇 그룹 중에서 특정 로봇을 식별해야 하는 문제를 소개하며, 아무리 선의의 프로그래밍이라 하더라도 의도하지 않은 결과가 발생할 수 있다는 점을 지적하고 있다.
‘리즌’과 ‘캐치 댓 래빗’, 그리고 ‘에비던스’ 에피소드에서는 진화하는 AI의 능력을 탐구한다. 각각 등장하는 QT-1(큐티)과 DV-5(데이브)는 인간의 감각이 제공하는 정보의 타당성에 의문을 제기하는 독립적인 사고의 징후를 보이며 의식의 본질에 대한 인간의 이해에 도전한다.
‘라이어’ 편에서는 인간의 생각을 읽고 이해할 수 있는 텔레파시 로봇 허비가 소개된다. 거짓말을 할 수 있는 능력을 가진 로봇의 등장과 그것이 세 가지 법칙에 던지는 도전에 대해 탐구한다.
이 단편집은 ‘피할 수 없는 갈등’ 편으로 마무리되며, 이 에피소드에서는 기계로 알려진 초지능 인공지능의 개념이 소개된다. 기계는 세계 경제를 감독하며 인류의 복지를 보장하지만 의혹이 제기되고 기계의 행동에 대한 조사가 펼쳐진다.
‘아이, 로봇‘은 인간과 로봇 사이의 진화하는 역학 관계를 탐구하며, 로봇이 사회에 더 많이 통합됨에 따라 펼쳐지는 신뢰, 수용, 두려움에 대한 질문을 던진다. 단순한 기계에서 정교한 자각 능력을 갖춘 개체로 발전하는 AI의 모습을 통해 AI 의식의 잠재적 진화와 그것이 인간과 AI 관계에 미치는 영향에 대해 고찰한다.
아시모프가 제안한 로봇공학의 세 가지 법칙은 AI의 윤리적 고려사항에 대한 토대가 되었지만, 인간과 로봇이 상호 작용할 때 세 가지 법칙은 때때로 예상치 못한 문제를 야기하며, 결국 아무리 신중하게 설계된 시스템이라도 예기치 않은 결과를 초래할 수 있다는 점을 아시모프는 지적하고 있다. 이 시대의 위대한 SF 거장, 아이작 아시모프의 ’아이, 로봇‘은 AI의 잠재력과 윤리성, 인간과 기계의 복잡한 상호 작용에 대해 고민한 시대를 초월한 SF 명작이다.
2001: 스페이스 오디세이
아서 클라크의 ‘2001: 스페이스 오디세이’에 등장하는 HAL 9000은 나름의 동기를 가진 지각 있는 컴퓨터로 묘사되었고, 인공지능이 혜택이지만 잠재적 위협임을 자각하는 발판을 마련한 작품이다.
안드로이드는 전기 양을 꿈꿀까?
필립 K. 딕의 이 작품 또한 지각과 의식을 갖는 AI가 등장하며, 안드로이드 또는 인공지능의 인간성에 대해 진지하게 탐구했다.
공각기동대
마사무네 시로가 1989년부터 연재한 만화로, 사이버 펑크의 미래를 배경으로 인류와 기술, 의식, 정체성의 모호한 경계 사이의 복잡한 관계를 탐구했다. 사이버범죄와 비밀 작전을 수행하는 정부조직인 공안 9과의 요원들은 본래의 신체 대신에 강화된 인공 신체, ‘쉘’이라 불리우는 사이버네틱으로 강화되는데, 인간과 AI의 경계가 모호해 지는 미래를 그리면서, 트랜스휴머니즘, 기술의 인체 통합, 인공 지능이 제기하는 윤리적 문제를 그리며 반향을 일으켰다.
2. 현실이 된 AI
1) AI의 구분
• 약인공지능(Weak AI) : Artificial Narrow Intelligence (ANI) 특정한 조건 한에서만 적용할 수 있는 인공지능을 말한다.
• 강인공지능(Strong AI) : Artificial General Intelligence (AGI) 모든 상황에 일반적으로 두루 작용할 수 있는 인공지능을 말한다. 유기적인 정보처리가 가능하다.
• 초인공지능 : Artificial Super Intelligence (ASI) AGI기술의 임계값을 충족시키면 AI는 인간의 지능과 의식을 빠르고 완벽하게 적응하여 궁극적으로 인간의 지능을 능가한 인공지공이다.
2) AI의 구성요소
• 머신 러닝(ML) : ML은 컴퓨터가 명시적인 프로그래밍 없이도 패턴을 학습하고 예측할 수 있도록 하는 알고리즘 개발에 초점을 맞춘 AI의 하위 집합이다. 머신 러닝 모델은 데이터에 대한 노출을 통해 시간이 지남에 따라 성능이 향상되고 있다.
• 딥 러닝 : 딥 러닝은 인간 두뇌의 구조와 기능에서 영감을 얻은 머신 러닝의 한 유형으로, 여러 층으로 이루어진 신경망(심층 신경망)을 포함한다. 이 접근 방식은 이미지 및 음성 인식과 같은 작업에서 특히 성공적이었다.
• 자연어 처리(NLP) : NLP는 기계가 인간의 언어를 이해하고, 해석하고, 생성할 수 있도록 하는 것이다. 자연어를 통해 컴퓨터와 사용자 간의 상호작용을 가능하게 하여 챗봇 및 언어 번역과 같은 애플리케이션을 지원한다.
• 컴퓨터 비전 : 컴퓨터 비전은 기계가 세상의 시각 정보를 해석하고 이해할 수 있게 해주며, 여기에는 이미지 및 비디오 인식, 물체 감지, 얼굴 인식이 포함된다.
• 로보틱스 : AI와 로봇 공학의 통합은 환경을 인식하고, 의사 결정을 내리고, 행동을 실행할 수 있는 지능형 기계를 만드는 것을 목표로 한다. AI 기반 로봇은 제조, 의료, 탐사 등 다양한 분야에서 활용되고 있다.
이 모든 구성요소의 목표는 AI를 인간의 지능과 유사하게 발전시켜 인간의 지능이 필요한 다양한 영역의 작업을 인간 대신 수행하도록 하는데 있다. 스스로 학습하도록 하는 러닝으로 인해 현재 AI의 성능은 상상하지 못할 정도로 비약적으로 발전하고 있다.
3) AI의 응용 분야
• 의료 : AI는 진단 목적, 질병 결과 예측, 개인 맞춤형 치료 계획에 사용된다. 머신러닝 모델은 의료 데이터를 분석하여 패턴을 식별하고 정보에 입각한 예측을 내릴 수 있다.
• 금융 : 금융 부문에서는 사기 탐지, 알고리즘 트레이딩, 신용 평가, 고객 서비스 등에 AI를 활용할 수 있다. AI는 데이터 분석 능력을 향상시켜 정보에 기반한 의사결정을 내릴 수 있도록 지원한다.
• 자율주행차 : AI는 자율주행 차량의 내비게이션, 인식, 의사 결정 기능을 강화한다. 머신러닝 알고리즘을 통해 차량은 주변 환경을 해석하고 실시간으로 주행 결정을 내릴 수 있다.
• 교육 : AI는 교육 기술에 활용되어 개인화된 학습 경험을 제공할 수 있다. 적응형 학습 플랫폼은 AI를 사용하여 개별 학생의 필요와 학습 스타일에 맞는 맞춤형 교육 콘텐츠를 제공할 수 있다.
• 엔터테인먼트 : AI는 추천 시스템, 게임 AI, 콘텐츠 제작 도구를 통해 엔터테인먼트 경험을 향상시킬 수 있다. AI로 구동되는 챗봇과 가상 캐릭터는 몰입도 높은 스토리텔링에 기여할 수도 있다.
4) 현재 AI 개발현황
현재 다양한 기업에서 AI를 개발하고 있다. 가장 뛰어난 기술력을 선보이고 있다고 평가받는 AI들은 아래와 같다.
구글(알파벳) 딥마인드의 알파고, 알파스타, 알파폴드, 바드(제미니), RX-X
딥마인드 알파벳 산하의 인공지능 연구기업으로 주요목표는 머신러닝과 신경과학을 기반으로 인간의 지능을 분석하고 구현하는 것이다. 인공지능을 탑재하는 것 뿐 아니라 인간 지능의 궁극적인 인해를 목표로 두고 있다. 체스와 바둑에서 인간을 이미 이긴 알파고와 알파고를 훨씬 넘어서는 알파스타, 알파폴드가 있다. 제미니는 생성형 인공지능 모델로 바드라는 구글의 차세계 인공지능 검색엔진에 제미니 프로가 탑재되었다. 로봇공학 트랜스포머 모델을 기초로 만들어진 RT-X가 있다.
OpenAI의 GPT
현재는 GPT-4가 일반적으로 알려져 있지만, 이미 GPT-5가 진행중이라고 한다. OpenAI는 폐쇄형 인공지능 개발사인 구글에 대항하기 위해 일론 머스크와 샘 올트먼이 비영리로 사업을 시작했다. 하지만, 이후 OpenAI는 마이크로소프트의 막대한 투자를 받아, GPT-4를 비롯한 지적재산권 라이센스를 마이크로소프트와 독점계약했다. 인상적인 자연어 이해 및 생성 능력으로 잘 알려져 있다. OpenAI의 GPT 덕분에 머지않아 마이크로소프트가 애플을 제치고 세계최고의 시가총액을 기록할 것으로 보여진다.
3. AI 발전에 따른 문제점과 과제
• 윤리적 문제 : AI가 더욱 널리 보급됨에 따라 윤리적 고려사항이 대두되고 있다. 알고리즘의 편향성 문제, 데이터 프라이버시 및 감시, 책임에 대한 우려가 제기된다.
• 일자리 대체 : 자율 시스템의 출현은 효율성 증대를 약속하는 동시에 일자리 대체에 대한 논쟁을 불러일으켰다.
• 투명성과 책임성 : 특히 딥러닝을 비롯한 일부 AI 시스템의 ‘블랙박스‘ 특성으로 인해 투명성과 설명가능성에 대한 요구가 커지고 있습니다. AI 의사결정 과정의 투명성을 보장하고 AI 시스템이 자신의 행동에 책임을 지도록 하는 것은 현재 진행 중인 과제이다.
• 보안 위험 : AI 시스템이 더욱 정교해짐에 따라 악의적인 공격에 대한 취약성과 악의적인 목적으로의 오용에 대한 우려가 커지고 있으며, 자율 무기 등 군사 분야에 AI가 통합되면서 대두되는, 생사를 결정할 수 있는 권한을 인간의 의지가 아닌 기계에 위임하는 것의 윤리적 의미, 잠재적 군비 경쟁, 국제 협약의 필요성 등에 대한 논쟁이 지속적으로 필요한 상황이다.
AI에 대한 경고
SF 소설에서는 종종 AI가 인간에게 반기를 든다는 설정이 등장한다.
현실의 AI가 자기 인식을 달성하고 인간을 능가하는 ASI에 이르기까지는 아직 멀었지만, 엘렌 머스크 등 많은 사람들이 AI에 대한 실존적인 위험과 안전 조치의 필요성을 주장하고 있다.
• 엘렌 머스크 (Tesla 및 SpaceX의 CEO) : 엘런은 AI가 인류에 대한 잠재적인 ‘실존적 위협‘이라고 설명하며 AI와 관련된 위험에 대해 목소리를 높여 왔다. 그는 규제 감독 부재와 적절한 통제 없이 AI 시스템이 인간의 지능을 능가할 가능성에 대해 우려를 표명했다.
• 스티븐 호킹 (이론 물리학자) : 생전에 스티븐 호킹은 완전한 인공 지능의 개발이 인류의 종말을 가져올 수 있다고 경고했다. 그는 의도하지 않은 결과를 방지하기 위해 윤리적 고려와 신중한 규제의 중요성을 강조했다.
• 빌 게이츠 (마이크로소프트의 공동 설립자) : 빌 또한 AI의 급속한 발전과 고용에 미칠 잠재적 영향에 대해 우려를 표명했다. 그는 새로운 형태의 교육과 일자리 창출의 필요성 등 사회적, 경제적 영향을 해결하기 위한 적극적인 조치를 취할 것을 촉구했다.
• 샘 알트만 (OpenAI의 CEO) : 샘은 안전 및 보안과 관련된 문제를 포함하여 AI의 잠재적 위험성을 인정했다. 안전하고 유익한 방식의 AI 개발과 장기적인 안전성 연구를 강조하고 있다.
• 스튜어트 러셀 (컴퓨터 과학자 및 AI 연구원) : 선도적인 AI 연구자이자 영향력 있는 교과서 “인공 지능: 현대적인 접근법”의 저자인 그는 AI 시스템이 인간의 가치와 일치하지 않을 수 있는 목표를 추구할 가능성에 대해 우려를 제기했다. 그는 AI 시스템의 유익한 발전을 위해 AI 시스템을 인간의 가치와 일치시켜야 한다고 주장했다.
• 맥스 테그마크 (물리학자 겸 AI 연구원) : 물리학자이자 AI 연구자인 맥스 테그마크는 AI가 제기하는 사회적 도전에 대해 이야기했다. 그는 AI가 인류에게 해를 끼치지 않고 혜택을 줄 수 있도록 윤리적 지침과 정책의 필요성을 강조했다.
• 닉 보스트롬 (철학자 겸 작가) : “초지능: 경로, 위험, 전략”의 저자인 닉 보스트롬은 초지능 AI의 개발과 관련된 잠재적 위험을 경고했다.
• 드류 응 (AI 연구원 겸 기업가) : 그는 자동화와 AI로 인한 일자리 대체의 위험에 대해 경고하며, 변화하는 직업 환경에 대비하기 위한 교육과 재교육의 중요성을 강조했다.
강력한 AI 시스템에 대한 통제력 상실 가능성, 윤리적 고려 사항, 일자리 대체 등을 우려하는 동시대 인물들의 경고는 공교롭게도 SF 소설 작품에서 우려했던 고민과 정확하게 일치하고 있다.
현재 AI의 개발속도와 실제 일상생활에 스며든 AI의 활용은 예상했던 것보다 더 빠르게 진행되고 있다.
인류에게 유익하고 안전하게 이용될 수 있도록 책임 있는 AI 개발에 대한 논의와 책임이 시급한 때라고 할 수 있다.