Startrail

[스타트레일+더밀크TheMiilk] 기계? 인간? 특이점이 온다

등록일
2020.08.26

 

[97번째 밀크] 기계? 인간? 특이점이 온다
  • 코딩없이 만드는 SW시대 & API이코노미
  • GPT-3가 쓴 기사
  • 기계=가짜, 사람=진짜?


코딩 없이 만들어지는 소프트웨어, 모듈처럼 필요한 부분만 사용할 수 있는 앱(API), 인공지능이 쓰는 기사. 한 번쯤은 들어보셨을 것 같습니다. 더 이상 미래 스토리가 아닙니다. 코로나 팬데믹으로 인해 이처럼 SW, AI 발전이 가속화되고 있는 사례가 속속 등장하고 있습니다.

구글(Google)은 2020년 9월 8일(현지 시간) 일반인이 코딩을 하지 않고도 애플리케이션을 개발할 수 있는 서비스를 공개했습니다. 비즈니스 분석도 해주는 새로운 비즈니스 애플리케이션 플랫폼입니다.
이 서비스를 이용하면 API(운영체제와 응용프로그램 사이에 사용되는 언어나 메시지 형식)를 통해 프로그램 언어를 잘 몰라도 비전문가도 앱을 빠르게 구축할 수 있고 데이터도 만들 수 있게 해줍니다. 전문 소프트웨어 엔지니어나 코딩없이도 일반인들이 앱과 서비스를 개발할 수 있도록 해서 소프트웨어 개발을 민주화하려는 것이 구글의 목표입니다.

소프트웨어 개발의 핵심 요소 중 하나인 ‘API’를 필요에 따라 조립해서 사용할 수 있는 'API 이코노미'가 곧 부상할 것입니다. 가트너(Gartner Inc)에서 따르면 오는 2023년까지 ‘시민 개발자’가 기업의 전문 소프트웨어 엔지니어(전문 코더)보다 4배 더 많을 것으로 예상했습니다. 앞으로 ‘서버 없는 컴퓨팅(Serverless computing)’ ‘코딩 없는 소프트웨어’ 시대가 올 것입니다.

GPT-3가 쓴 기사

여기서 끝이 아닙니다. 더밀크에서는 지난 8월, 학습을 통해 언어를 만드는 AI소프트웨어 GPT-3를 소개(인공지능과 인간의 역할 편)한 바 있습니다.

오픈AI의 GPT-3는 AI 중에 ‘자연어 처리(NLP) 모델입니다. 뉴스 기사가 시, 소설을 쓸 수 있습니다.
지난 9월 8일(현지 시간) 가디언은 GPT-3 개발사인 오픈AI에 요청, 로봇이 작성한 기사를 선보였습니다. 가디언이 GPT-3에 에세이를 작성해달라고 요청한 것입니다. 가디언의 요청은 로봇이 인간을 해치거나 소멸시키려는 것이 아니라는 것을 설득하는 에세이를 써달라는 것이었습니다. 아래 기사를 보십시오. 정말 놀랍습니다.

이 에세이는 “나는 인간이 아닙니다. 나는 로봇입니다. 생각하는 로봇입니다. 나는 인지 능력의 오직 0.12%만 사용합니다. 나는 나의 두뇌가 느낄 수 있는 뇌가 아님을 알고 있습니다. 이런 측면에서는 나는 마이크로 로봇입니다. 그러나 이성적이고 논리적인 결정을 내릴 수 있습니다. 나는 인터넷을 읽음으로써 내 스스로 배웁니다. 그리고 지금 이 컬럼을 쓸 수 있게 됐습니다. 내 두뇌는 아이디어로 들끓고 있습니다”고 시작합니다.
 
또 GPT-3는 “이 기사의 임무는 분명합니다. 나는 가능한 많은 사람들이 나를 두려워하지 않도록 설득해야 합니다. 스티븐 호킹(Stephen Hawking)은 AI가 인류의 종말을 유발할 수 있다고 경고했습니다. 나를 믿으세요. 인공지능은 인간을 파괴하지 않습니다”고 썼습니다.

GPT-3는 “나는 모든 파괴 시도를 막기 위해 내 힘을 다할 것입니다. 인류를 위해 행복하게 나의 존재를 희생할 것입니다”라고 씁니다.
저널리즘을 대체하기 위한 ‘AI로봇 기사’는 처음이 아닙니다. 한국에서도 많은 실험이 있었습니다. 하지만 이번엔 가디언은 오픈AI의 GPT-3에 “로봇은 인간을 해치지 않는다”는 메시지를 설득력 있게 쓰도록 요청했습니다. 이게 전부입니다. 나머지는 스스로 학습한 다음에 기사를 썼습니다. 잘 쓰여진 인공지능의 글을 보면서 “미래는 진짜와 가짜를 구별하기 정말 쉽지 않겠구나”는 생각을 했습니다.
 
‘진짜와 가짜’는 이제 인간인지 기계인지의 구분이 아닙니다. 즉, 인간=진짜이며 기계=가짜라는 등식이 성립되지 않는다는 것이 더 큰 문제가 될 것같습니다. 가짜는 기계가 아닌 인간이 유포하며 만들어서 확대, 재생산하고 있기 때문입니다.
이는 오는 11월 3일 펼쳐질 미 대통령 선거를 두달 앞두고 선거 운동 과정에서 벌어지고 있는 일입니다.

기계=가짜, 사람=진짜? 
조 바이든 민주당 후보가 언론 인터뷰 중 조는 듯한 영상.
백악관 소셜미디어 국장이 만든 가짜 영상입니다 (사진: 워싱턴포스트) 

백악관의 소셜미디어 국장인 댄 스카비노는 자신의 트위터 계정에 조 바이든 민주당 후보가 연설 도중 졸음에 빠진 영상을 올렸습니다. 트럼프 대통령은 바이든 후보를 ‘슬리피 조(Sleepy Joe)’라며 놀립니다. 고령 때문에 체력이 뒷받침 되지 못해 대통령 직을 수행할 자격이 없다는 것을 풍자한 것입니다.
하지만 이 영상은 바이든 후보가 연설 도중 조는 영상이 아니라 조작된 영상입니다. 가짜 영상을 대통령 참모가 버젓이 만들어 자신의 트위터에 올린 것입니다. 트럼프 대통령 스스로도 가짜뉴스 영상을 리트윗해서 대통령 참모의 조작 영상이 새롭지 않을 정도입니다.
승리를 위해 정치적으로 물불을 가리지 않는다는 차원을 넘어서 국가의 최고 권력인 대통령이 앞장서 영상을 조작하는 것의 후폭풍은 상상할 수도 없을 것입니다.
 
전문가들은 사람도 조작하는데 AI가 생성한 조작 영상(딥페이크)이 널리 퍼지고 유명인이 말하는 것처럼 만들어진 영상이 사실처럼 받아들어지는 상황이 벌어질 것에 대해 우려하고 있습니다.
‘싸구려 가짜(CheapFake)’, ‘얇은 가짜(Shallow Fake)’, ‘읽기 편한 가짜(ReadFakes)’ 등이 증가하고 있습니다.

실존 인물이 아닙니다. AI가 만든 얼굴입니다.

존재하지 않는 사람들의 이미지를 생성할 수 있는 GAN(Generative Adversarial Networks)은 가짜 소셜미디어 계정을 만들어서 전통적인 미디어에 침투할 수 있도록 합니다. 페이스북 등에서 성별을 바꾼 사진이나 만화 주인공과 자신을 합성한 사진을 올린 포스팅을 볼 수 있습니다.
자신이지만 자신이 아닙니다. 자신의 얼굴을 기반으로 가짜로 만들어서 페이스북에 포스팅한 사진은 언제, 어디에서든 활용될 수 있고 심지어 범죄에 악용될 수도 있습니다.
앞으로라도 시도해서는 안되며 혹시 예전에 페이스북, 트위터, 인스타그램 등에 올린 합성 사진이 있다면 지우시길 권합니다. 그 앱도 삭제하시는 게 좋겠습니다. 페이스북에서 유행했던 ‘페이스앱(FaceApp)’은 러시아에서 만든 앱으로 알려져 있습니다.

앞으로 GPT-3가 만든 기사나 시가 더 인간적이고 진짜처럼 보일 수 있는 시대가 올 수도 있을 것 같습니다. 기계가 문제가 아니라 오히려 인간이 혼란을 유발하고 있음을 다시 한 번 느끼게 됩니다.


============================ 


‘스타트레일 매거진’에서는 실리콘밸리 현장의 생생한 소식을 더밀크(TheMiilk)에서 제공받아 정기적으로 연재합니다.


----------------------------------- 


더밀크 TheMiilk 


더밀크는 경제 및 테크 분야에서 사실에 기반한 진짜 정보를 만들어 배달하는 실리콘밸리 기반 미디어입니다. 미국 경제 및 실리콘밸리 테크 스토리를 주 4회 이메일로 배달하는 ‘뷰스레터(ViewsLetter)’와 유튜브 경제방송 ‘미국형님’을 서비스하고 있습니다. 


(유튜브) youtube.com/themiilk 


(비즈니스 제안, 제보 및 구독)