“챗 GPT 등 AI 개발, 6개월간 중단하자”…머스크·유발 하라리 등 서명

챗GPT의 월간 활성사용자(MAU)가 1억을 넘으면서 AI 기술에 대한 기대와 함께 우려는 커지고 있다.일론 머스크 테슬라 CEO, 애플 공동설립자인 스티브 워즈니악, 역사학자 유발 하라리 등 유명 인사들이 초거대 AI 개발 경쟁을 일단 멈추자고 주장하고 있다.

FLI,  AI 시스템 개발 속도 줄리는 공개 서명 운동 벌이고 있다

29일(현지시간) BBC는 AI 관련 전문가들이 AI 시스템 개발 속도를 줄이자는 ‘미래의 삶 연구소(FLI)’ 공개서한에 서명했다고 보도했다. 미래의 삶 연구소는 미국 비영리 단체다. 기술을 책임감 있고 윤리적으로 연구·개발하자는 목표로 설립됐다.

미래의 삶 연구소는 “독립적인 외부 전문가가 감독하는 안전 프로토콜을 개발할 때까지 모든 AI 연구소에서 GPT-4보다 강력한 AI 개발을 최소 6개월간 중단할 것으로 요청한다”고 전했다.

FLI는 이 공개 서한에서 “강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있을 것이라는 확신이 있을 때만 개발해야 한다”면서 “기계가 우리의 정보 채널을 선전과 거짓으로 넘치게 할 수는 없다. 우리를 대체할 비인간적인 마음을 개발할 결정권을 선출되지 않은 기술 리더에게 위임해서는 안 된다”고 압박했다.

일론 머스크 테슬라 최고경영자(CEO)를 비롯해 튜링상 수상자인 조슈아 벤지오 캐나다 몬트리올대 교수도 서명에 참여했다. 이들 외에 ‘사피엔스’란 저술로 국내에서도 많은 인기를 누리고 있는 유발 하라리 예루살렘 히브리대학 교수도 동참했다.

이 외에 스티브 워즈니악 애플 공동창업자, 에마드 모스타크 스테빌리티AI CEO, 에번 샤프 핀터레스트 CEO 등 거물이 포함됐다. 샘 알트먼 오픈AI CEO를 비롯해 마이크로소프트(MS)와 구글, 메타의 경영진은 빠졌으나, 알파벳 자회사인 딥마인드 연구원 일부가 서명한 것으로 알려졌다.

전문가”AI에 들어간 알고리즘 훈련을 최소 6개월 동안 중단”

서명에 동참한 전문가들은 최근 AI 개발 속도가 인간에게 위협될 수 있다는 우려가 커지고 있다고 입을 모았다. 허위 정보를 퍼트리거나 자동화로 인한 일자리 감소 등을 예로 들었다. 가장 대표적으로 오픈AI의 챗GPT 등도 언급했다.

전문가들은 이를 피하기 위해 제한 없는 AI 알고리즘 훈련 속도나 AI 모델 개발을 잠시 중단해야 한다고 주장했다. 이들은 또 개발 지연 조치가 이뤄지지 않으면 정부 개입이 불가피할 것이라고 강조했다.

보도에 따르면 딥마인드 개발자도 서명했다. 모두 미래의 삶 연구소 내·외부 고문이다. 일론 머스크 CEO는 “AI 에 들어간 알고리즘 훈련을 최소 6개월 동안 중단하길 권장한다”고 말했다.

반면 이번에 서명한 게리 마커스 뉴욕대학교 교수는 “서한이 완벽하지는 않지만 정신은 옳다. 파급 효과를 더 잘 이해할 때까지 속도를 늦출 필요가 있다”며 “빅테크들은 점점 더 비밀스러워지고 있으며, 이로 인해 사회가 미칠 영향을 가늠하기 어렵게 되고 있다”고 밝혔다.

슈레시 벤카타수브라마니안 브라운대학교 교수이자 전 백악관 과학기술실 차장 역시 “이런 시스템을 개발할 수 있는 많은 권한은 이를 수행할 자원이 있는 소수 회사의 손에 지속적으로 주어졌다”며 “이런 모델은 구축하기 어렵고 민주화하기도 어렵다”고 전했다.

제임스 그리멜만”일론 머스크가 서명하는 것은 매우 위선적”

머스크는 공개서한 발표에 앞서 AI에 대한 부정적인 견해를 밝혀왔다. 오픈AI의 상업화를 비난한 것은 물론 테슬라의 자율주행 시스템을 거론하며 “AI가 스트레스를 준다”고 말했다. 심지어 AI 프로그램이 “그 자체로 괴물이 될 수 있다”며 강력한 법규 마련을 촉구하기도 했다.

하지만 일각에서는 이런 머스크를 비판하는 목소리가 높다.

제임스 그리멜만 코넬대학교 디지털 및 정보법 교수는 “테슬라가 자율주행차의 AI에 대한 책임을 회피하려고 얼마나 열심히 싸웠는지를 고려하면, 일론 머스크가 서명하는 것은 매우 위선적”이라고 말했다.

또 댄 아이브스 웨드부시 분석가는 “이는 전략적으로 MS의 속도를 늦추려는 움직임”이라며 “테슬라 역시 AI의 다음 단계를 주도하려는 움직임을 보이고 있다”고 지적했다.

GPT-4에 대한 우려

GPT-4는 전 세계적으로 인기를 끌고 있는 챗GPT에 적용된 GPT-3.5의 업그레이드 버전입니다.오픈AI는 GPT-4를 전격 공개했습니다. 오픈AI는 GPT-4를 공개하면서 많은 전문적인 시험에서 GPT-4가 인간 수준의 능력을 보여줬다고 설명했습니다.

오픈AI는 “평소 대화에서는 GPT-3.5와 차이가 크게 나지 않을 수 있다”면서도 “GPT-4는 훨씬 더 신뢰할 수 있고 창의적이며 더 미묘한 명령을 처리할 수 있다”라고 평가했습니다. 또 “이전 모델보다 틀린 답이나 주제를 벗어난 답은 적다며 많은 표준화된 시험에서 인간보다 더 좋은 성적을 낼 것”이라고 했습니다.

기존 GPT-3.5와 달리 이미지도 텍스트로 인식합니다. 이미지를 보고 이해한 뒤 답변하는 것입니다.

하지만 최근 GPT-4가 사람과 컴퓨터를 구별하는 자동 로그인 방지 시스템인 ‘캡차'(CAPTCHA)의 인증 코드를 태스크래빗을 통해 해결한 사실이 알려지면서 윤리 문제가 불거졌다. AI가 사이버 공격 등에 악용될 것이란 우려다. GPT-4는 간단한 일을 해결해주는 사람을 찾는 플랫폼인 태스크래빗에서 캡차 인증 코드를 풀어줄 사람을 구한 뒤, 문자 메시지를 통해 인증 코드를 받아냈다. GPT-4는 사람이 캡차 코드를 풀도록 설득하기 위해 자신이 시각 장애인이라고 거짓말까지 했다.

미국 의회에서는 법안이 제출되진 않았지만, AI와 규정에 관한 논의가 이뤄지고 있다. 유럽연합(EU) 의회는 AI 규제를 위한 구체적인 제안을 내놓았다.

관련페이지:

ChatGPT(챗GPT) 사용법 소개, 어떻개 가입합니까?

챗GPT(ChatGPT)란, 챗GPT로 할 수 있는 일? 정말 구글의 시대 끝났습까?

오픈AI, ‘챗GPT 플러그인’ 출시…최신 정보 반영, 향후 전망은?

오픈 AI, ‘GPT-4’ 출시…GPT-4 사용법 및 기능 살펴보기

구글, 챗GPT 대항마 AI 챗봇 ‘바드(Bard)’ 공식 출시…’바드’ 사용법 소개