기관장 기고 및 인터뷰 : 정보통신산업진흥원

×

전체검색 열기 ENG 닫기

홍보센터

[기고] [ET시론] AI 일상화를 위한 토대 ‘AI 안전‘ (240514, 전자신문사)
구현도 2024-05-16 2002
내용	생성형 인공지능(AI)의 등장을 신호탄으로 AI는 빠르게 우리 일상에 스며들고 있다. 최근에는 오픈AI가 동영상 생성 AI ‘SORA‘를 공개하면서 AI의 새로운 가능성을 보여주는 등 주기적으로 혁신적인 AI가 출현하고 있는 상황이다. 다만, AI의 확산과 동시에 AI가 내재하고 있는 위험에 대한 우려도 같이 확대되고 있다. 세계적인 연구기관·국제기구·전문가들도 AI의 위험성을 경고하고 있다. 안토니우 구테흐스 UN 사무총장은 지난 1월 다보스 세계경제포럼에서 “AI의 급속한 발전이 의도치 않게 심각한 위험을 초래할 수 있다“라고 경고한 바 있으며, AI의 대부로 알려진 제프리 힌턴 교수 또한 “AI로 인한 멸종 위험을 낮추는 것을 글로벌 사회의 최우선 과제로 삼아야 한다“라고 뉴욕타임스와 작년 5월에 인터뷰한 바 있다. (중략) 이러한 큰 흐름에 따라 이미 미국, 영국, 일본, 캐나다, 싱가포르 등 5개 국가가 AI 안전연구소를 설립하여 AI 위험에 관한 평가체계 및 평가기준 조사·연구·개발과 관련 국가와의 국제협력 등을 수행하고 있다. 특히, 미국은 자국 기업을 중심으로 구성된 5개 분야의 민간 컨소시엄을 발족하여 레드티밍(취약점 발견·검증을 위한 의도적 공격), 역량평가 등을 준비하고 있으며, 영국은 AI 기술전문가 채용을 통해 AI 시스템 안전성에 대한 기술평가 시행을 준비하고 있다. 우리나라도 지난 9일, ‘AI 안전‘을 포함하여 AI 모델·반도체·서비스 등 9대 기술 혁신을 담아 인공지능 세계 3위 강국(AI G3) 도약을 위한 이니셔티브(AI - 반도체 이니셔티브)를 발표하였다. 조만간 서울에서 AI 안전·혁신·포용을 논의하는 ‘AI 서울 정상회의’ 또한 개최할 예정이다. 우리나라가 AI 안전에 기반한 AI 글로벌 리더십을 선도할 수 있기 위해서는 ‘AI 기본법’ 국회 통과가 절실한 상황이며, AI 안전 거버넌스 마련과 AI 안전에 관해 중장기적인 연구를 추진하는 전담기관 창설도 기대해 본다. * 온라인기사 원문보기(240513, 전자신문) : https://www.etnews.com/20240513000132

이 페이지에서 제공하는 정보에 대하여 어느 정도 만족하셨습니까?

담당부서 : ESG혁신팀 구현도
전화번호 : 043-931-5211