캐나다 몬트리올대의 요슈아 벤지오 교수가 AI의 안전성을 확보하기 위해 정책 입안자와 대중이 AI의 현재와 미래에 대한 정확한 이해가 필요하다고 강조했다. 벤지오 교수는 4일부터 이틀간 열린 ‘삼성 AI 포럼 2024’에서 이와 같은 의견을 밝혔으며, 삼성전자가 5일 이 내용을 보도했다.
딥러닝 분야의 창시자로 알려진 벤지오 교수는 AI의 잠재적 부작용에 대한 경고를 해온 신중론자로, 이날 기조 강연에서는 ‘AI 안전을 위한 베이지안 오라클’이라는 주제로 보다 안전하고 신뢰할 수 있는 AI 시스템 구축의 중요성을 강조했다. ‘베이지안 오라클’은 고급 통계 모델인 베이지안 방법론을 활용해 정보를 수집하고 분석하는 기법이다. 그는 최근 발표한 논문에서 이 방법이 AI 에이전트로 인한 피해를 예방할 수 있는지에 대한 질문을 다루었다.
그는 AI의 대규모 노동 시장에 미치는 영향, 해킹, 초지능의 출현 등 미래의 위험성을 경고하며, AI 성능이 여러 분야에서 인간 수준을 초과하고 있다는 연구 결과를 소개했다. 벤지오 교수는 “AI 안전성을 확보하기 위해서는 위험한 행동을 하지 않도록 사전 설계가 필요하며, AI의 목표와 행동을 인간과 일치시켜야 한다”고 강조했다. 또한, 국가와 기업 간의 AI 경쟁에서 더 많은 조정과 협력이 필요하다고 덧붙였다.
삼성 AI 포럼에 매년 참석해 온 벤지오 교수는 2020년부터 ‘삼성 AI 프로페서’로 활동하고 있으며, 이번 포럼에는 튜링상 수상자인 얀 르쿤 뉴욕대 교수도 참여해 기계가 인간 지능에 도달하기 위해 추가적인 기술 혁신이 필요하다고 언급했다.
삼성리서치의 김대현 글로벌 AI센터장은 생성형 AI 기술 발전이 일상적인 전자제품과 AI의 관계를 어떻게 변화시키고 있는지에 대한 발표를 진행했다. 한종희 삼성전자 대표이사는 “AI의 강력한 발전에 따라 책임감 있는 사용이 더욱 중요해지고 있다”며, “삼성전자는 지속 가능한 AI 생태계를 구축하는 데 책임을 다할 것”이라고 밝혔다.
올해로 8회를 맞은 삼성 AI 포럼은 AI 및 컴퓨터 공학 전문가들이 최신 연구 성과를 공유하는 장으로 자리잡고 있다.
