인공지능이 불러올 인류멸종의 경고

인공지능(AI)의 세계는 현재 중요한 논의의 중심에 있습니다. 한편으로는, AI의 잠재적 위협을 전염병이나 핵전쟁과 같은 세계적인 위협과 비교하는 등, AI 분야의 주요 인물들이 심각한 경고를 내놓고 있습니다. 그러나 다른 한편으로는 이 분야의 일부 연구자들은 이러한 주장이 과장되었다고 주장하며, 현재의 문제에 초점을 맞추어야 한다고 주장합니다. 이러한 이분법적인 시각은 최근 AI Safety Center의 웹페이지에 게재된 성명서에서 특히 두드러집니다. 이 성명서는 OpenAI의 CEO 샘 알트만, Google DeepMind의 CEO 데미스 하사비스, 그리고 Anthropic의 다리오 아모데이 등이 지지를 표하고 있습니다.

 

AI Safety Center는 AI의 무기화, AI에 의한 오해의 소지가 있는 정보로 인한 사회 불안정화, AI의 권력이 점점 소수에게 집중되는 현상, 그리고 사람들이 AI에 너무 의존하게 되는 상황 등, 다양한 잠재적 재앙 시나리오를 제시하고 있습니다. 이는 단순한 가설이 아니라, 통제되지 않은 AI 개발이 계속될 경우 발생할 수 있는 현실적인 결과입니다.

그러나 모든 전문가들이 이러한 종말론적 전망에 동의하는 것은 아닙니다. 메타에서 일하는 'AI의 대부' 중 한명인 얀 르쿤은 이런 경고가 과장되었다고 공개적으로 밝혔습니다. 그의 견해는 AI 시스템의 편향 등 현재의 문제를 해결하는 것이 중요하다고 생각하는 많은 AI 연구자들과 일치합니다.

프린스턴 대학교의 컴퓨터 과학자인 아빈드 나라야난은 현재의 AI 기술로는 이런 위험을 초래할 수 없다고 주장합니다. 옥스퍼드 AI 윤리연구소의 엘리자베스 레니에리스도 AI의 편향, 차별, 오해의 소지가 있는 정보, 불평등 등, 더 근접한 위험에 대해 우려해야 한다고 강조했습니다.

그러나, 당장의 문제에 대한 해결도 중요하지만, 장기적인 잠재적 위험을 무시하는 것도 바람직하지 않습니다. AI Safety Center의 댄 헨드릭스 국장은 현재의 문제와 미래의 위험을 대립시키는 것은 바람직하지 않다고 주장했습니다. 현재의 문제를 해결하는 것이 미래의 잠재적 위험에 대비하는데도 도움이 될 수 있습니다.

AI의 잠재적 위험에 대한 이런 논의는 새로운 것이 아닙니다. 2023년 3월, 엘론 머스크를 포함한 여러 전문가들이 다음 세대 AI 기술 개발 중단을 촉구하는 공개서한에 서명하면서 이런 논의가 한창이었습니다. 새로운 캠페인은 이전의 캠페인과 달리, AI의 위험을 핵전쟁의 위험과 비교하여 논의를 유도하는 것을 목표로 하고 있습니다.

AI 규제에 대한 논의도 활발해지고 있습니다. 샘 알트만과 순다르 피차이 등 주요 기술 리더들은 최근 영국 총리와 함께 AI 규제에 대해 논의했습니다. 이들은 AI의 잠재적 위험을 인정하는 한편, 적절한 안전장치와 규제의 중요성을 강조했습니다.

리시 수낙은 AI 위험에 대한 연설에서 AI가 사회와 경제에 가져다줄 수 있는 긍정적인 효과를 강조했습니다. 그는 정부가 이 문제에 대해 심도있게 고민하고 있다며 대중을 안심시켰습니다. 또한 G7은 최근 AI를 전담하는 실무 그룹을 만들어 이런 우려를 해결하는 것이 전 세계적으로 중요하다는 메시지를 전했습니다.

AI 기술은 의료, 엔터테인먼트, 경제, 환경 과학 등 다양한 분야에서 혁신을 이끌어 낼 수 있는 잠재력을 가지고 있습니다. 그러나 AI의 가능성을 넓혀나가면서, 우리는 책임감 있게 행동해야 합니다.

AI로 인한 멸종 위험을 완화하기 위해 전 세계적으로 우선순위를 정하는 것은 가볍게 무시할 수 있는 문제가 아닙니다. 당면한 문제를 해결하는 것도 중요하지만, 장기적인 잠재적 위험도 함께 고려해야 합니다. 또한, AI에 대한 규제와 기술의 무기화, 정보의 오해 등에 대한 우려를 해결하기 위한 공동의 노력이 필요합니다. 이런 노력이 바로 AI를 안전하게 발전시키는데 필요한 방향입니다. AI의 발전은 적절한 안전 장치와 함께 이루어져야 합니다. 이는 모든 이해당사자들이 함께 노력해야 할 문제입니다. AI에 대한 이해와 신중한 사용, 그리고 미래의 가능성에 대한 준비가 절실하게 필요합니다.