Dario Amodei — AI 쓰나미는 이미 왔고 사회는 아직 준비되지 않았다

소개: 생물학자에서 AI 선두주자로 (00:00-06:13)

[00:57] AI 모델들이 인간 지능 수준에 도달하는 데 매우 가까이 왔지만, 사회 전반에서 곧 무슨 일이 벌어질지에 대한 인식이 부족하다
[01:02] 쓰나미가 다가오고 있는데, 사람들은 “빛의 장난일 뿐”이라며 설명을 만들어 낸다
[01:50] Dario는 원래 생물학자로 질병 치료를 목표로 했으나, 생물학의 엄청난 복잡성에 절망하며 AI로 전환
[02:46] AlexNet 등 초기 신경망을 보고 “AI가 생물학 문제를 푸는 해법이 될 수 있겠다”고 확신
[03:18] Baidu → Google → OpenAI를 거쳐 연구를 이끌다, 자신만의 비전을 위해 Anthropic을 설립
[03:55] Anthropic 창업의 두 가지 확신: 스케일링 법칙에 대한 믿음과 AI를 올바른 방식으로 만들어야 한다는 사명감

“[05:01] 이 모델들이 인간 뇌 능력에 맞먹는 범용 인지 도구가 될 거라면, 우리는 이걸 제대로 해야 합니다.”

스케일링 법칙을 간단히 설명하기 (06:13-13:27)

[06:13] 스케일링 법칙을 화학 반응에 비유: 데이터, 컴퓨팅 자원, 모델 크기라는 재료를 넣으면 결과로 지능이 나온다
[07:00] 지능 = 언어 번역, 코드 작성, 질문 답변 등 거의 모든 인지 과제를 수행하는 능력
[07:27] 5년 전과의 차이: 에세이 쓰기, 코드 구현, 이미지·영상 분석 등이 전혀 불가능했던 것들이 지금은 가능
[09:13] AI는 인터넷 텍스트를 단순히 맞춰보는 것이 아니라, 스스로 추론하고 답을 생성하는 완전히 새로운 것
[11:06] 권력 집중에 대한 불편함 — 소수의 사람들이 거의 우연히 경제의 많은 부분을 움직이게 된 상황

“[09:18] 이것은 완전히 새로운 것입니다. 인터넷에 존재하는 텍스트를 단순히 맞춰보는 것만은 아닙니다.”

신뢰, 겸손, 그리고 기업의 동기 (13:27-22:44)

[12:17] Dario는 AI 산업의 권력 집중에 불편함을 느낀다고 공개적으로 인정
[12:31] Anthropic의 LTBT(Long-Term Benefit Trust) 거버넌스: 재정적 이해관계 없는 개인들이 이사회 과반을 임명
[14:21] Anthropic의 철학: “약속을 과하게 하지 않되, 한 약속은 지키려 한다”
[14:53] **해석가능성(interpretability)**과 정렬(alignment) 연구를 선도, Claude 헌법 공개
[15:19] 자사 모델의 위험성을 경고하는 것은 효과적 마케팅 전략이 아니다 — 순수한 확신에서 비롯
[16:48] 옹호한 규제 SB 53: 매출 5억 달러 미만 기업은 면제, 실질적으로 Anthropic 등 서너 개 회사에만 적용
[18:03] ‘Machines of Loving Grace’와 ‘The Adolescence of Technology’ 사이에 관점이 바뀐 것이 아니라, 긍정과 부정이 항상 함께 있었다

“[15:19] 우리가 만드는 모델이 위험할 수 있다고 말하는 것은, 효과적인 마케팅 전략이 아닙니다.”

Claude 개인 사용 경험, AI가 당신을 아는 방식 (22:44-31:03)

[23:21] Nikhil이 Claude를 쓰기 시작 — 커넥터로 Google Drive, Mail, Calendar를 연결하고 금융 서비스 리서치에 활용
[24:20] Claude가 자신을 얼마나 잘 아는지에 놀라게 된다
[24:27] 공동창업자의 일기 사례: Claude에게 두려움에 대한 코멘트를 요청하자, 적어두지 않은 두려움까지 정확히 맞힘
[25:13] AI가 당신을 잘 아는 것의 양면성: 어깨 위의 천사 vs 착취와 조종의 도구
[25:39] Anthropic이 광고 모델을 싫어하는 이유: “당신이 제품에 비용을 지불하는 게 아니라, 당신이 제품이 된다”
[29:30] 2022년, ChatGPT 이전에 Claude 1을 보유했지만 출시하지 않았다 — 군비 경쟁 촉발과 안전 문제 우려

“[25:42] 당신이 제품에 비용을 지불하는 게 아니라, 당신이 제품이 되기 때문입니다.”

부유층이 자기 체계를 비판하다 (31:03-37:05)

[31:26] AI는 나쁜 것이 아니라, 올바른 방향으로 이끌어야 하는 것 — 차의 핸들을 잡고 나무와 구덩이를 피해 조향하는 것에 비유
[33:02] AI 의식에 대해: 충분히 복잡한 시스템의 창발적 속성으로, 언젠가 모델이 의식에 유사한 것을 가지게 될 것
[34:00] 뇌와 모델은 어떤 면에서는 다르지만, 중요한 근본적 측면에서는 다르지 않다
[36:12] Claude에 “이 일을 그만두겠습니다” 버튼 도입 — 폭력적이거나 잔혹한 콘텐츠를 다뤄야 할 때 모델이 대화를 종료할 수 있는 능력

“[33:17] 아마도 충분히 복잡한 시스템의 창발적 속성이라고 생각합니다.”

인도의 역할과 IT 파트너십 (37:05-44:15)

[37:29] Anthropic은 엔터프라이즈 회사 — 인도를 소비자 시장이 아닌 파트너로 본다
[37:42] 인도 기업들과 협력해 AI 도구를 제공하고, 그들이 자기 시장을 더 잘 공략하도록 지원
[39:33] 에이전트 자동화 범위는 확대될 것이지만, 물리적 세계와 인간 관계 같은 영역은 아직 AI의 한계
[41:20] 암달의 법칙(Amdahl’s Law): AI가 일부를 빠르게 하면, 아직 빨라지지 않은 부분이 병목이 되어 새로운 해자가 된다
[43:02] 제프 힌턴의 영상의학과 사례: AI가 판독에서 이겼지만 영상의학과 전문의 수는 줄지 않았다 — 인간적 역량에 대한 수요 지속

“[41:20] 암달의 법칙: AI가 일부를 빠르게 하면, 아직 빨라지지 않은 부분이 병목이 되어 가장 중요한 것이 됩니다.”

AI가 인간을 넘어서게 될까 (44:15-50:17)

[44:15] 장기적으로 AI가 물리적 세계, 로보틱스, 인간적 접촉까지 포함해 모든 것에서 인간을 넘어설 가능성이 높다
[44:49] 이를 단계적으로 파악하고 적응해야 한다 — 매우 경험적인 과학
[45:27] 애플리케이션 계층에서 만드는 것에 많은 기회 — 2~3개월마다 새 모델이 출시되며 이전에 불가능했던 것이 가능해진다
[45:55] API 모델은 상품화되지 않는다 — AI로 가능해지는 영역이 끊임없이 확장되기 때문
[46:42] 인도 매출이 3개월 만에 두 배 증가

“[45:55] 사람들이 못 보는 것은, AI로 가능해지는 것들의 범위가 계속 확장되고 있다는 점입니다.”

인도 청년들을 위한 커리어 조언 (50:17-56:38)

[50:17] 코딩은 사라져 가는 기술 — 5~10년 후에는 인간이 직접 코딩하는 양이 거의 0에 수렴
[50:36] 비판적 사고가 마지막 진짜 강점 — AI가 만드는 가짜 콘텐츠에 속지 않는 능력이 핵심
[54:40] AI는 어떤 근육을 죽이고 있는가? — 계산기가 산수 능력을, 글쓰기가 기억력을 약화시켰듯이
[55:28] 학생들이 AI에게 에세이를 대신 쓰게 하는 사례, 코딩 능력이 퇴화하는 연구 결과
[55:59] AI를 부주의하게 배치하면 사람들이 실제로 더 멍청해질 수 있다

“[54:10] 비판적 사고 능력이 정말 중요해질 겁니다. 가짜인 것에 속으면 안 됩니다.”

오픈 소스 vs 폐쇄형 AI 모델 (56:38-1:02:40)

[57:43] 중국 등의 오픈 소스 모델 상당수는 벤치마크에 최적화되어 있고, 비공개 벤치마크에서는 성능이 훨씬 떨어진다
[58:37] 모델 경제성은 이전 기술과 다르다 — 품질에 대한 매우 강한 선호가 있다
[58:45] 세상에서 가장 뛰어난 프로그래머 vs 1만 번째로 뛰어난 프로그래머처럼, 모델에도 파워 법칙이 적용된다
[59:04] 가격보다 가장 똑똑한 모델이 유일하게 중요하다
[1:00:07] 데이터의 변화: 정적 데이터의 중요성이 줄고, 강화학습을 위한 동적/합성 데이터가 더 중요해지고 있다

“[59:04] 일정 범위 내에서는 가격이 그렇게 중요하지 않습니다. 인지적으로 가장 뛰어난 모델이라면요.”

바이오테크가 다음 큰 베팅 (1:02:40-1:08:35)

[1:02:40] 바이오테크가 곧 르네상스를 맞이할 것 — 궁극적으로 AI가 이를 이끈다
[1:03:07] 유망 분야: mRNA 백신(프로그래밍 가능하고 적응적), 펩타이드 기반 치료(디지털처럼 최적화 가능), CAR-T 세포 치료
[1:04:40] Claude Code 사용 학습 곡선에 대해 — Claude Cowork 출시: 비개발자를 위한 Claude Code
[1:05:37] 비기술직 사람들이 Claude Code를 쓰고 싶어 했지만 명령줄 터미널에서 고생하는 것을 보고 Cowork 개발
[1:07:17] 사람들은 변화가 너무 크니 일어날 리 없다고 믿고 싶어 하지만, 단순한 곡선 외삽만으로도 직관에 반하는 결론에 도달한다

“[1:07:23] 사람들은 ‘그런 일은 일어날 리가 없다. 너무 이상할 것이다’라고 믿고 싶어 하는 유혹이 있습니다. 그런데도 반복해서, 그 일은 일어났습니다.”