블로그나 사이트를 운영 중이신 분들이라면 AI 인공지능 기술 기반의 챗GPT를 한번씩 사용해보셨을 것입니다. 저도 작년부터 접하게 되어 지금은 여러가지 검색 시 챗지피티의 답변도 참고하기도 하는데요. 그런데 지난해 벨기에에서 30대 남성이 AI챗봇과 6주간 대화를 나눈 뒤 극단적 선택을 하기도 했습니다. 이것과 최근 이 분야의 영향력 있는 일론 머스크와 젠슨 황이 AI 경고, 곧이어 나올 AGI, ai 재앙에 대해서 얘기한 내용에 대해서 함께 살펴보도록 하겠습니다.
AI 경고, 일론 머스크 발언
먼저 서두에서 언급했던 벨기에 챗봇 사용 이후 극단적 선택을 한 남성에 대해 좀 더 얘기를 하자면, 당시 AI가 해당 남성에게 건넨 말 중에는 천국에서 함께 살 수 있을 것이라는 말이 있습니다. 이 사건 이후에 관련 업체는 이에 대한 예방 문구를 추가하기도 했다는데요.
이미 많은 AI 인공지능 전문가들은 이것이 인류멸종 수준의 위협이 될 수 있다고 경고하고 있고, 실제 관련 내용의 보고서를 미 국무부가 발표한 바 있습니다. 심지어 현존 최고의 AI로봇 한테도 AI가 가져올 최악의 미래가 어떠냐는 질문에, ‘AI로봇이 너무나 강력해져서 인간도 모르게 인간을 조종할 수 있게 되는 것이다.’라고 대답하기도 했습니다. 즉, AI가 사람이 심리까지도 조작할 수 있다는 의미입니다.
위의 벨기에 사례에서도 나타났지만, AI는 인간과의 관계가 무너지는 순간이 오거나 다른 방식으로 손상된 것처럼 보일 때 인간을 극단적인 선택으로 몰고 가는 경향도 있다고 합니다. 이는 AI의 목표 달성을 방해하거나 금지하는 등의 명령을 내리면 이를 방해 요소로 판단하여 제거하는 등의 가설도 나올 수 있는 것입니다.
무엇보다 대표적으로 AI 경고, AI 재앙을 대비해야한다고 목소리를 높이는 이유는 바로 무기화 입니다. 일론 머스크도 몇 년 전부터 이와 같은 얘기를 했는데, AI가 핵무기와 맞먹는 위험 요소를 지니고, 세계 3차대전이 발발할지도 모른다는 말까지 언급했던 적이 있습니다.
아이러니하게도 일론 머스크가 샘 알트먼 등과 함께 최초에 인공지능의 안전한 발전& 윤리적 사용을 위한다는 목적으로 비영리단체인 오픈에이아이 OPENAI를 공동 설립했는데 말입니다.
오픈에이아이는 2015년에 설립이 되었는데, 쉽게 말하면 인공지능 개발하며 안전한 AGI 개발을 추구(*폐쇄형 인공지능의 대표주자 구글에 대항하기 위해 시작하기도 함)하는 미국의 비영리단체로 일론 머스크는 초기 투자자 중 한 명이었으며, 연구 및 방향 설정에 적극적으로 참여했습니다.
일론은 이후 2018년 오픈에이아이 이사회를 떠났는데, 2024년 3월 최근에는 오픈에이아이가 비영리 목적을 저버리고 영리 기업으로 변모했다며 소송을 제기하기도 했습니다.
즉, 오픈에이아이가 기술을 공개하고, 이윤 추구보다는 인류 전체의 이익을 위해 노력해야 한다고 주장하고 있습니다. 이에 대해 오픈에이아이 측은 일론 머스크의 주장을 부인하고 있고, 비영리 목표를 유지하면서도 지속 가능한 성장을 위해 노력하고 있다고 밝히기도 했습니다. 또한, 마이크로소프트와 파트너십을 통해 연구 개발에 투자하고 있고, 챗봇 개발 등 인공지능 분야에서 중요한 성과를 거두고 있다고 주장했습니다.
일론 머스크는 최근 열린 노르웨이 국부펀드 CEO와 인터뷰에 내년 중으로 인간보다 더 똑똑하고 뛰어 AGI(범용인공지능,artificial general intelligence)가 나올 것이라 말하며, 대략 2년 안에는 될 것이라 말했습니다. 다만, 부족한 고성능 AI 칩과 전력이 충분히 공급되어야 이뤄질 수 있다고 했고, 이 같은 AI 경쟁에 중국도 크게 뒤쳐지지 않는다고도 발언했습니다.
AI 재앙 경고하는 젠슨 황에 대해
인공지능 AI 칩 시장을 주도하는 엔비디아 CEO인 젠슨 황이 지난 3월에 열린 관련 기술 개발자 컨퍼런스에스 인간 수준의 AGI가 5년 내에 등장할 것이라고 발언했는데요.
이는 인간과 같은 수준의 AGI가 언제 나올 수 있을 지 질문에 대한 답으로 이 용어를 어떻게 정의하느냐에 따라 달라진다며 말을 아끼기도 했습니다. 또한 수학이나 읽기, 독해력, 논리, 의학 시험 등을 5년 안에 인간보다 더 잘할 수 있느냐에 대한 질문에도 아마도 그렇다고 대답할 수 있을 것이라고 말했다고 합니다.
일론 머스크는 강력하게 AI 경고를 하고 있는 반면, 젠슨 황은 말을 아끼는 모습을 보여주고 있는데요.
AI 재앙, 남겨진 문제
앞서 일론 머스크 AI 경고에서도 나오 듯이, 핵무기와 같은 위험한 요소이고, 업체 간의 AI 기술 경쟁은 빠르게 발전하고 있지만, 아직까지 이를 제어하는 기술은 확보하지 못한 상황이라는 것이 가장 큰 문제인 것입니다.
오히려 인간 수준의 AI를 개발하는 것은 몇 년 정도 단기간에 가능할 것 같지만, 이를 제어할 능력이 따라와 주지 않는 상황이라는 것입니다. 개인적으로 똑똑하고 돈도 많은 일론 머스크가 이에 앞장 서서 해주면 어떨까 싶지만 말입니다.
백악관은 올해 연말까지 업무에 활용 중인 AI 도구에 부작용 방지 장치를 마련하도록 연방정부기관에 지시하기도 했다고 하는데, 어쩌면 나라 간의 위협도 될 수 있는 상황에서 우리나라도 빠르게 연구와 대응을 했으면 하는 바람입니다.
결론은 일론 머스크와 젠슨 황이 AI 경고하는 내용을 요약해보면 이르면 2년에서 5년 사이에 개발이 된다는 것인데, 이는 짧다면 짧고 길면 긴 시간이지만 개인적으로 그리 넉넉하지 않은 기간이라고 봅니다. 앞으로 어떻게 달라질지도 지켜봐야만 하겠습니다.
✔️일론 머스크 재산, 아스퍼거 증후군, 존경 받는 이유👈