상황 인식

앞으로의 10년

Leopold Aschenbrenner 2024년 6월

문서 정보

이 글은 일리야 수츠케버에게 헌정한다.

제가 과거에 오픈AI에서 근무했지만, 이 모든 내용은 공개된 정보, 제 개인적인 아이디어, 일반적인 분야 지식, 또는 샌프란시스코 업계 소문에 기반한 것이다.

콜린 번스, 아비탈 발윗, 칼 슐만, 얀 라이케, 일리야 수츠케버, 홀든 카르노프스키, 숄토 더글라스, 제임스 브래드버리, 드워케시 파텔 등 많은 분들과의 형성적 토론에 감사드린다. 초기 초안에 대한 피드백을 준 많은 친구들에게도 감사드린다. 그래픽 작업을 도와준 조 로난과 출판 지원을 해준 닉 휘태커에게도 감사드린다.

situational-awareness.ai leopold@situational-awareness.ai 2024년 6월 6일 업데이트 캘리포니아주 샌프란시스코

당신은 샌프란시스코에서 미래를 가장 먼저 볼 수 있다.

지난 1년 동안, 도시의 화제는 100억 달러 규모의 컴퓨트(compute) 클러스터에서 1,000억 달러 클러스터, 그리고 조(兆) 달러 클러스터로 옮겨갔다. 6개월마다 이사회 계획에 0이 하나씩 더 붙고 있다. 무대 뒤에서는 이번 10년 동안 확보할 수 있는 모든 전력 계약과 가능한 모든 전압 변압기를 확보하기 위한 치열한 경쟁이 벌어지고 있다. 미국 대기업들은 미국 산업 역량의 오랜만의 대규모 동원에 수조 달러를 쏟아붓기 위해 준비하고 있다. 10년 말까지 미국의 전력 생산량은 수십 퍼센트 증가할 것이며, 펜실베이니아의 셰일 가스전부터 네바다의 태양광 발전소까지 수억 개의 GPU가 가동될 것이다.

범용 인공지능(AGI) 경쟁이 시작되었다. 우리는 사고하고 추론할 수 있는 기계를 만들고 있다. 2025년에서 2026년 사이에 이 기계들은 대학 졸업생들을 능가할 것이다. 10년 말까지는 당신이나 나보다 더 똑똑해질 것이며, 진정한 의미의 초지능을 갖게 될 것이다. 그 과정에서 반세기 만에 볼 수 있는 국가안보 체제들이 가동될 것이며, 머지않아 프로젝트가 시작될 것이다. 운이 좋다면 우리는 중국 공산당(CCP)과의 전면 경쟁에 돌입할 것이고, 운이 나쁘면 전면전이 벌어질 것이다.

지금 모두가 AI에 대해 이야기하지만, 다가올 충격을 조금이라도 감지하는 사람은 거의 없다. 엔비디아 분석가들은 2024년이 정점에 가까울 것이라고 여전히 생각한다. 주류 평론가들은 “그저 다음 단어를 예측하는 것일 뿐”이라는 의도적인 맹목에 갇혀 있다. 그들은 단지 과대광고와 일상적인 비즈니스로만 보고 있으며, 기껏해야 또 다른 인터넷 규모의 기술 변화 정도로 여깁니다.

머지않아 세상은 깨어날 것이다. 하지만 지금은 아마도 몇 백 명 정도, 대부분 샌프란시스코와 AI 연구소에 있는 사람들이 상황 인식을 가지고 있을 뿐이다. 운명의 기묘한 힘 덕분에 저도 그들 중 하나가 되었다. 몇 년 전만 해도 이 사람들은 미친 사람 취급을 받았지만, 그들은 추세선을 신뢰했고 덕분에 지난 몇 년간의 AI 발전을 정확히 예측할 수 있었다. 이 사람들이 앞으로 몇 년간도 옳을지는 두고 봐야 한다. 하지만 이들은 매우 똑똑한 사람들—내가 만난 사람 중 가장 똑똑한 사람들이며—이 기술을 만드는 사람들이다. 아마도 그들은 역사 속의 이상한 각주가 될 수도 있고, 아니면 질라드, 오펜하이머, 텔러처럼 역사에 남을 수도 있다. 만약 그들이 미래를 거의 정확히 보고 있다면, 우리는 거친 여정을 맞이할 것이다.

우리가 보는 것을 말씀드리겠다.

SITUATIONAL AWARENESS: The Decade Ahead

상황 인식

앞으로의 10년

문서 정보

목차

댓글