경고: “인류는 깨어나야 한다”
Anthropic CEO 다리오 아모데이가 AI의 위험성에 대해 직접 경고한다. 이것은 단순한 일자리 문제가 아니다.
- [00:18] “인류는 깨어나야 합니다.” — 핵심 메시지
- [00:26] 작년에 “화이트칼라 일자리의 50%“가 몇 년 안에 위험해질 수 있다고 경고한 바 있음
- [00:37] 이번 메모에서는 일자리를 넘어 국가안보, 삶의 방식까지 영향을 받을 수 있다고 확장
- [00:43] AI 기업들과 권위주의 정부들에 대해서도 경고
- [01:00] “모든 사용자 수, 모든 데이터센터, 모든 권력”을 보라고 촉구
- [01:03] “이 거대한 소비자 사용자 기반을 세뇌한다면?” — 핵심 질문
의회가 지금 해야 할 세 가지
1. 강력한 투명성 입법
- [02:22] “첫째는 가능한 한 강력한 투명성 관련 입법입니다.”
- [02:27] 핵심 질문: “어떤 테스트를 했는가?”, “모델과 관련해 무엇을 보고 있는가?”
- [02:36] 기업들에게 위험을 연구하고, 그 결과를 대중에게 공개하도록 요구해야 함
- [02:42] 제품에 라벨을 붙이는 표시 의무 제안
- [02:46] 투명성은 소비자 보호뿐 아니라 기업들이 서로에게서 배우게 해주는 역할도 함
2. 권위주의적 적대국에 대한 공급망 차단
- [03:06] 미국 내 기업 간 경쟁도 충분히 과열되어 있음
- [03:17] 권위주의적 적대국이 기술을 빠르게 따라잡으면 기업 규제가 불가능해짐
- [03:30] “저는 우리가 공급망을 차단해야 한다고 생각합니다.”
- [03:31] 칩(반도체) 영역에서 미국이 수년 앞서 있어 실행 가능한 수단임
- [03:37] 공급망 차단은 시간과 완충을 제공해 위험을 다룰 여유를 만들어 줌
3. AI 혜택의 분배
- [03:45] 분배(Distribution) 문제를 반드시 함께 고려해야 함
- [03:56] AI가 가능하게 할 것들: 암 치료, 더 저렴한 에너지, 완전히 새로운 재료
- [04:13] AI가 많은 화이트칼라 근로자들이 수행하는 업무를 해낼 수 있음
- [04:17] **“노동에서 자본으로 부가 이전”**되는 방향
- [04:28] **“엄청난 부가 있지만, 분배가 문제인 세상”**이 올 것
조만장자(트릴리어네어) 시대 대비
- [04:47] 더 강력한 조세 정책을 생각해야 함
- [04:55] 과거의 조세 정책이 아니라 **“조만장자가 있는 세상”**을 전제로 한 정책
- [05:02] 일론 머스크가 이미 그 수준에 가까워지고 있음
- [05:13] 잘 설계된 답을 못 찾으면 잘못 설계된, 매우 공격적인 답을 얻게 됨
- [06:25] 사람들은 **“내 일자리는 어디에 있나요?”**라고 물을 것
- [06:28] “왜 저 사람은 조만장자이고 제 임금은 내려갔나요?”
부유층에 대한 경고
- [07:33] “우리가 풍요를 창출하고 조만장자가 되더라도 아무도 불평하지 않을 것”이라는 태도는 위험
- [08:00] 불만이 이미 시작됐고, 더 나빠질 것
- [08:16] “올바르게 하지 않으면 폭도들이 당신에게 몰려올 것입니다”
유권자 커뮤니케이션
- [08:43] 사람들이 걱정하는 것(물 사용량, 전기요금)은 정확히 겨냥된 우려가 아닐 수 있음
- [09:03] “전기요금 문제가 아닙니다.” 핵심은 분배 문제
- [09:06] 막대한 풍요로움이 생길 때 사람들이 자신의 몫을 가져가느냐가 핵심
- [09:28] 리더십을 발휘해 **“이것이 앞으로의 방향입니다”**라고 말해야 함
- [09:37] **“비록 아직 모든 답을 갖고 있지는 않더라도, ‘우리가 여러분을 지켜드리겠습니다’“**라고 말해야 함
3년을 기다리면 안 되는 이유
- [10:12] 3년을 기다리면 기술이 기하급수적으로 발전
- [10:20] 2023년의 모델은 “똑똑한 고등학교 학생” 수준이었음
- [10:25] 지금은 모델이 엔지니어를 위해 모든 코드를 작성하고, 엔지니어는 “조금 편집”하는 정도
- [10:32] 현재 수준이 **“중간에서 고급 전문 수준”**에 도달
- [10:44] “데이터센터 속의 천재들로 이루어진 우리나라” — 아마 3년도 안 되어
- [10:49] “3년은 이 분야에서는 영원에 가깝습니다.”
- [10:57] 문제가 드러나면 당파적 이슈가 되지 않을 것 — 양측 모두에서 대응 요구가 나올 것
불확실성과 대비
- [11:48] “우리는 정말로 모른다” — 위험의 가능성을 판단하기 어려움
- [12:07] 운영 방식에서는 **“편집증적일 정도로 경계”**하는 자세
- [12:33] 정부가 적절한 조치를 취하면 성공 가능성이 크게 올라감
- [12:44] 정책결정자들이 “운전대를 놓고 잠들어 있지 않으면” 많은 일이 더 쉬워질 것
메모 작성 과정
- [13:01] 메모를 직접 썼고, 첫 초안을 72시간 만에 완성
- [13:26] “클로드는 그 어떤 부분도 쓰지 않았습니다.” — 클로드는 조사와 피드백 역할만
“[00:18] 인류는 깨어나야 합니다.”
“[10:49] 3년은 이 분야에서는 영원에 가깝습니다.”