KOREAHUMANRIGHTS | NEWS | 한국인권뉴스에 오신걸 환영합니다.
 
 
 
HOME > 한국인권뉴스 > 핫이슈
기사제목 기사내용
성매매특별법의
개정 및 폐지에 앞장섭니다.
 
 
 
 


A I가 인류멸망을 초래할 우려가 있다고 전문가들이 경고 2023·06·10 17:37

크리스 발란스(테크놀로지 리포터)

AI 위험에 관한 성명서가 "AI 안전 센터" 웹사이트에 게시되었는데, 이 성명서에는 OpenAI의 CEO인 샘 알트먼, 구글 딥마인드의 CEO인 데미스 하사비스, 안소로픽의 CEO인 다리오 아모데이 등 기술 기업의 최고경영자들도 서명하였다.

성명서는 "팬데믹이나 핵전쟁과 같은 사회적 규모의 위험과 마찬가지로, AI에 의한 멸종의 위험을 감소시키는 것이 세계적인 우선순위가 되어야 한다"고 촉구했다. 반면 이러한 우려에 대해 과장되었다는 의견도 있다.

"AI 안전 센터"는 몇 가지 재앙 시나리오를 상정하고 있다.

· AI의 무기화: 신약 개발 도구가 화학 무기 제조에 사용될 수 있는 가능성

· AI로 생성된 가짜 정보가 사회를 불안정하게 만들고 "집단 의사 결정에 해를 끼칠" 가능성

· AI의 힘이 소수에게 집중되어 국가가 "감시와 억압적인 검열을 통해 좁은 가치관을 강제할 수 있게 될" 가능성

· 영화 '월-E'에서 그려진 시나리오처럼 인류가 AI에 의존하여 쇠퇴할 가능성


인간을 뛰어넘는 지능을 가진 '슈퍼 인텔리전스(초지능)' AI의 위험성을 일찍이 지적한 제프리 힌튼 박사와 요슈아 벤지오 몬트리올대 교수(컴퓨터과학)도 이 같은 주장을 지지하고 있다.

힌튼 박사와 벤지오 교수, 그리고 미국 뉴욕 대학의 양루칸 교수는 이 영역의 선구자로서 'AI의 아버지'라고 불리고 있다. 2018년에는 컴퓨터 사이언스에 눈부신 공헌을 한 사람에게 주어지는 튜링상을 수상했다.

하지만 페이스북과 인스타그램을 운영하는 메타에 소속된 루칸 교수는 이런 종말론적 경고가 지나치게 과장됐다며 "이런 예언에 대한 AI 연구자들의 가장 흔한 반응은 손으로 얼굴을 가리는 것"이라고 트위터에 글을 올렸다.

현실을 분열시킨다

많은 전문가들은 AI가 인류를 멸망시킬 것이라는 우려는 비현실적이며, 시스템의 편향성 등 이미 존재하는 문제를 외면하는 것이라고 말한다.

미국 프린스턴대 아빈드 나라얀난 교수는 앞서 BBC와의 인터뷰에서 공상과학(SF)에서나 나올 법한 재앙이 일어나는 시나리오는 비현실적이라고 말했다.

"현재 AI의 능력은 이러한 위험을 실현하기에는 아직 멀었다. 결과적으로 단기적인 AI로 인한 피해로부터 관심을 돌리고 있다."

영국 옥스퍼드대 AI윤리연구소의 엘리자베스 레니엘리스도 현재에 더 가까운 위험이 더 걱정스럽다고 말했다.

"AI의 발전으로 편파적, 차별적, 배타적 또는 기타 불공정한 자동 의사결정의 규모가 확대되는 동시에, 그러한 과정이 불가해하고 증명할 수 없게 될 것이다."

레니엘리스는 또 AI가 "가짜 정보의 양과 확산을 가속화해 현실을 분열시키고 공공의 신뢰를 무너뜨릴 것"이라고 말했다. 특히 디지털 분열로 인해 잘못된 편에 있는 사람들에게 불평등이 가속화될 것"이라고 말했다.

레니엘리스에 따르면, 많은 AI 도구는 "지금까지의 인류의 경험"에 "그냥 편승하고 있다"며, 많은 AI가 인간이 만든 콘텐츠, 글, 예술, 음악에 의해 훈련되고 이를 모방한다고 말했다. 그 결과, AI 제작자들은 "막대한 부와 권력을 공공의 영역에서 소수의 사기업으로 이양했다"고 말했다.

그러나 'AI 안전 센터'의 댄 헨드릭스 소장은 BBC 뉴스와의 인터뷰에서 미래의 위험과 현재의 우려를 "상충되는 것으로 보아서는 안 된다"고 말했다.

"오늘날의 문제를 해결하는 것은 미래의 많은 위험을 해결하는 데도 도움이 된다.“

안심하기를 바란다

오픈 AI의 알트만 CEO와 구글의 순다르 피차이 CEO 등은 먼저 AI 규제에 대해 영국의 리시 수낙 총리와 의견을 나눈 바 있다.

수낙 총리는 이러한 AI 리스크에 대한 경고에 대해 경제와 사회에 대한 이익도 있다고 강조했다.

"최근에는 AI가 반신불수자의 보행을 돕거나 새로운 항생제를 발견하기도 한다. 이런 일들이 안전하고 확실한 방식으로 이루어지도록 해야 한다."

"국민에게는 정부가 매우 신중하게 검토하고 있다는 것을 안심할 수 있기를 바란다“

앞서 수낙 총리는 히로시마에서 열린 주요 7개국 정상회의(G7 정상회의)에서도 AI에 대해 논의했다. 또한 근처 미국을 방문해 이 문제를 논의한다고 한다.

G7은 최근 AI 관련 작업반을 설립했다.

[한국인권뉴스] 

Copyright 1999-2024  Zeroboard
 
열띤 네티즌들의 토론장
 
성노동 개념 / better health
뉴욕주, 성노동 비범죄화 추진
하이닉스 매그나칩 사내 하청지회 서울본사 12층 사장실...
박근혜 "경동맥 잘린 것도 아닌데"
 
자료마당
 
조선에서의 일본군‘위안부’동원: 소개업자・ 접객...
나치 독일의 강제노동과 보상 문제
한타련 거제 주민설명회 수순
성특법이 성범죄, HIV / AIDS 공화국으로
 
한국인권뉴스 회원의 글
 
박근혜 정부의 '한일위안부 합의' 사실상 파기한 문재인
징용배상판결 해법은? / 주익종
[쟁점토론] 윤석열 대통령에게 묻습니다. 누가 통일을 원...
[8.15 전국노동자대회] 반통일 윤석열의 대결정책 규...