딥마인드와 스케일링 법칙
데미스 하사비스는 2010년 런던에서 셰인 레그, 무스타파 술레이만과 함께 딥마인드를 설립했다. 2014년 구글에 인수된 후 AI 연구의 핵심 거점이 되었다.
스케일링에 대한 관점:
- [06:23] 스케일링 법칙은 **“아주 잘 작동”**하며, 연산·데이터·모델 규모를 늘리면 역량이 증가하는 추세 지속
- [06:36] 다만 몇 년 전만큼 빠르지 않아 수확 체감 논의 존재
- [06:59] AGI 도달에는 스케일업 외에 큰 혁신 1~2개가 더 필요할 수 있음
“저는 그것들을 일종의 ‘들쭉날쭉한 지능’이라고 부르는데, 한편으론 매우 똑똑하지만 다른 경우엔 뚱딴지 같은 실수를 합니다.”
- [07:46] 진정한 AGI는 더 일관되고 견고해야 함
- [08:14] 인간 지능은 다양한 구성 요소로 이뤄져 있고, 단일 패러다임으론 충분하지 않을 수 있음
연산·에너지·효율의 도전
칩과 에너지가 AI 발전의 핵심 병목이다:
- [09:21] 칩 부족은 GPU만이 아니라 전력·데이터센터 인프라까지 연결
- [10:35] 전 세계 수요를 감당할 연산 칩이 부족하고, 결국 문제는 에너지로 귀결
“AGI 시대로 갈수록 에너지가 사실상 지능과 동의어가 될 것입니다.”
AI가 에너지 문제 해결에도 기여할 수 있다:
- [11:08] AI로 기존 인프라 효율 개선, 더 나은 태양전지 소재 개발 가능
- [11:16] Commonwealth Fusion과 협력해 핵융합 원자로 제어 연구 중
- [11:21] 상온 초전도체 소재를 AI로 만들어낼 수 있는지 개인 프로젝트 추진
효율 개선도 빠르게 진행 중:
- [11:41] 시스템이 좋아질수록 매년 효율이 대략 10배씩 개선
- [11:55] 지식 증류로 큰 모델이 작은 모델을 가르치고, 작은 모델이 효율적으로 동작
AI의 위험과 책임 있는 개발
AI의 잠재적 위험에 대한 두 가지 핵심 우려:
- [13:46] 악의적 행위자가 범용 기술을 해로운 목적에 전용하는 위험
- [13:57] AGI에 가까워지며 더 자율적으로 행동하는 AI 자체의 위험
“경제적 혼란이 있을 것이고, 이는 산업혁명과 비슷하겠지만 아마 10배 더 크고 10배 더 빠를 것입니다.”
딥마인드의 접근 방식:
- [15:36] 이점을 빠르게·넓게 확산하되, 책임감 있고 신중하게 균형 유지
- [24:30] 연구의 핵심은 단지 성능이 아니라 견고성과 통제 가능성
- [25:10] 국제적 협력과 표준·가드레일이 필요
AGI와 월드 모델
월드 모델에 대한 관점:
- [22:38] 용어보다 여러 접근이 수렴하는 점이 중요
- [22:48] LLM이 언어를 넘어 추론·계획으로 확장되며 세계 모델링 능력과 연결
- [23:18] 딥마인드에서 로보틱스, 비디오 모델, 강화학습 등 다양한 라인 진행
타임라인 전망:
- [23:52] 예측은 어렵지만 연구가 빠르게 진행되고 몇 년 단위로 큰 진전 가능
- [24:12] 안전과 정렬(Alignment) 문제를 동시에 해결해야 함
국가 경쟁과 버블 논의
중국 AI의 현황:
- [34:59] 중국 AI 모델은 미국보다 불과 몇 달 정도만 뒤처짐
- [35:12] 딥시크가 전 세계 시장에 충격을 준 것은 중국도 AI 경쟁에 본격 참여함을 보여줌
- [35:36] 알리바바 모델이 허깅페이스에서 인기 모델 중 하나로 관측
AI 버블에 대한 관점:
- [37:16] 구글은 자유현금흐름이 있어 AI에 지출 가능, 필요시 지출 조정 여력 있음
- [37:48] 오픈AI·앤스로픽은 자금줄이 마르면 극도로 위험해질 수 있음
- [37:54] 구글·마이크로소프트·메타는 현금흐름으로 상황 변화에 대응 가능
구글의 AI 전략과 조직 개편
2014년 구글 인수에 대한 회고:
- [41:56] 데미스가 앨런 유스타스에게 “구글이 한 인수 중 가장 중요한 인수가 될 것”이라고 말함
- [42:43] 당시 래리 페이지가 기술의 중요성과 가능성을 내다봄
- [42:55] 구글 지원 없이는 알파고·알파폴드 등 성과를 이루지 못했을 것
TPU와 GPU 전략:
- [44:17] 구글은 자체 TPU로 최고의 모델 학습에 주로 사용
- [44:40] TPU는 GPU보다 더 특수 목적, GPU는 더 범용적
- [44:59] TPU와 GPU 모두 갖고 활용할 수 있어 “운이 좋다”
파트너십 확대:
- [48:54] 삼성은 제미니에 올인, 새로운 MR 헤드셋과 스마트 안경도 공동 개발 중
- [49:23] 제미니가 새 버전의 시리를 구동하는 엔진이 될 전망
- [49:36] 애플이 자체 구축 불가를 인식하고 검증된 기술 통합을 선택
조직 개편의 결과:
- [50:12] 순다르 피차이가 모든 것을 재정비해 데미스 아래로 통합
- [50:19] 2025년 제미니 3로 큰 성과 달성
- [50:56] 2026년 소비자 분야는 모든 것이 열려 있음