마크 안드레센의 세계관 60분 요약 | MTS 라이브

People are becoming what we now refer to as AI vampires. 사람들이 이제 우리가 AI 뱀파이어라고 부르는 존재가 되고 있습니다. They've got these huge bags under their eyes. 눈 밑에 엄청난 다크서클이 생겼고요. They're completely exhausted, but they're like euphoric. 완전히 지쳐 있지만, 마치 황홀한 상태 같습니다. They're thrilled. 너무 신이 나 있어요. We're entering a golden age, which is AI is going to be a superpower that everybody on the planet's going to have access to. 우리는 황금시대로 진입하고 있습니다. AI는 지구상의 모든 사람이 접근할 수 있는 초능력이 될 것입니다. It's like the most dramatic increase in programmer productivity in like ever. 역사상 가장 극적인 프로그래머 생산성 향상이라고 할 수 있습니다. Twitter proved it, right? 트위터가 그걸 증명했잖아요. Cutting 70% and then it's running better or as good as it was before. 70%를 감축하고 나서 이전과 같거나 더 잘 돌아가고 있으니까요. I generally don't wish I could go back in time and do things over again, but it would be really really fun right now to be 18 or 20 or 22 and to have this capability and figure out what I could do with it. 저는 보통 과거로 돌아가 다시 뭔가를 하고 싶다는 생각을 잘 안 하는데, 지금 18살이나 20살, 22살로 돌아가서 이 능력을 갖고 뭘 할 수 있는지 알아볼 수 있다면 정말 재미있을 것 같습니다. We are going to see super producers the likes of which we've never seen in the world. 우리는 세상에서 전례 없는 슈퍼 프로듀서들을 보게 될 것입니다. There's news about it. 그것에 관한 뉴스가 있습니다. UFOs. UFO 얘기요. What is clear is the government at certain times has hid certain materials. 분명한 건 정부가 특정 시점에 특정 자료를 숨겼다는 것입니다. Why would they do that if there's nothing to really worry about? 정말 걱정할 게 없다면 왜 그렇게 했을까요? Two things are pretty clear at this point. 지금 시점에서 두 가지는 꽤 명확합니다. One is that 하나는 Mark, welcome to monitoring the situation. 마크, 모니터링 더 시추에이션에 오신 걸 환영합니다. Eric, it is great to be back. 에릭, 다시 만나서 정말 반갑습니다. So, there's a lot to monitor today. 오늘 모니터링할 상황이 참 많네요. Uh I want to start first start with something that just happened um which is the uh anthropic uh blackmailing incident. 먼저 방금 일어난 일부터 시작하고 싶습니다. Anthropic의 블랙메일 사건인데요. And I I first want to tell a brief story which is uh my uh friend Joe Hudson has this concept called the golden algorithm. 먼저 짧은 이야기를 하나 들려드리고 싶습니다. 제 친구 조 허드슨이 황금 알고리즘이라는 개념을 가지고 있거든요. And the golden algorithm is states that um whatever you're scared about you bring it about in exactly the way you're scared about it. 황금 알고리즘이란 두려워하는 것을 정확히 두려워하는 방식으로 불러온다는 것입니다. So if you're scared about getting abandoned you'll be super insecure and then you'll people will abandon you because you're so insecure. 예를 들어 버려질까 봐 두려워하면 지나치게 불안해지고, 그러면 실제로 사람들이 떠나버리는 거죠. 그 불안함 때문에요. Uh this is an example of a literal golden algorithm where people have been so scared that AI is going to be evil and have written about all the ways in which it's evil and in fact maybe it's informed um informed something. 이건 황금 알고리즘의 문자 그대로의 예입니다. 사람들이 AI가 악해질 것을 너무 두려워해서 AI가 악해지는 모든 방식을 글로 썼고, 사실 그것이 뭔가를 형성했을 수도 있습니다. What's happening there or what do we find uh interesting? 거기서 무슨 일이 일어난 건가요, 어떤 점이 흥미롭다고 생각하세요? I I haven't studied this one in detail. 저는 이 사건을 자세히 들여다보지는 못했습니다. Um uh I I've been monitoring other situations but however um uh I mean just what I saw so far 다른 상황들을 모니터링하고 있었는데, 지금까지 제가 본 것만으로 말씀드리자면 I think I just saw anthropics thread. 방금 Anthropic의 스레드를 봤어요. I haven't I haven't I haven't read the underlying material yet, but Anthropic threads have said they trace the they trace some blackmail behavior to literally to the to the AI doomer literature. 아직 기저 자료를 읽지 못했지만, Anthropic 스레드에서는 일부 블랙메일 행동이 문자 그대로 AI 두머 문헌까지 추적된다고 했습니다. Yeah. 네. That they [laughter] that it was in the training data. 그 [웃음] 문헌이 학습 데이터에 있었다는 거죠. So there there are all these there are all these there are all these you know scenarios of like you know the terminate you know all the rogue AI gone wrong that the that the AI doomer has been writing about for 20 years and and literally anthropic of course which is of course the company is like you know half doomer u apparently you know basically you know essentially said that their own their own their own movement's literature is the thing that's causing the behavior that they say they they they don't want. AI 두머들이 20년간 작성해온 로그 AI 시나리오들이 있고, Anthropic은 물론 절반이 두머로 구성된 회사인데, 자기 운동의 문헌이 바로 자신들이 원하지 않는다고 말하는 행동을 유발하는 것이라고 사실상 인정한 셈입니다. So it is a fairly um incredible 정말 믿기 힘든 상황이죠. Yes. 맞아요. Yes it is. 그렇죠. Yes. 네. Oh, I mean like look if you didn't if you don't want to build the killer AI, you know, step one would be don't build the 킬러 AI를 만들고 싶지 않다면, 1단계는 그걸 만들지 않는 겁니다. [laughter] [웃음] It's like hm and then you know step two is like don't train it on all the data that says it's supposed to, you know, the literature that your movement wrote that says it's supposed to be a killer AI. 2단계는 운동이 쓴 킬러 AI 관련 문헌을 전부 학습시키지 않는 거고요. So I, you know, Yeah. 그러니까 저는 그게, 맞아요. I don't know. 모르겠어요. Yeah. 네. It's like your it's like your your your golden algorithm coupled coupled with like the snake eating his tail. 황금 알고리즘에 꼬리를 먹는 뱀이 합쳐진 것 같은 상황이네요. Um coupled with, you know, I don't even know. 거기다가, 솔직히 뭐라 해야 할지도 모르겠고요. Like the whole thing is so bananas. 이 전체가 너무 황당합니다. Yeah. 맞아요. Yeah. 그러게요. the um 그 I mean you know I can't resist you know if I could if I can if I can act out memes it's the scream meme right 밈을 직접 연기할 수 있다면, 바로 그 비명 밈이 딱 맞을 것 같습니다. which is you know the calls coming from inside the house. 전화가 집 안에서 걸려왔다는 거죠. Yeah. 맞아요. Yeah. 그렇죠. Exactly. 정확히요. The um speaking of other situations another thing you've been talking about recently is um is the concept of suicidal empathy and and and Matt Kramer had a good quote which is if the empathy you have doesn't make you more forgiving more accepting of other people's spiritual sovereignty or more understanding of people who don't want to think or live the same way you do you don't have empathy. 다른 상황 이야기를 하자면, 최근에 자멸적 공감 개념에 대해 많이 얘기하셨는데, 맷 크레이머의 인상적인 말이 있었죠. 당신이 가진 공감이 더 많이 용서하게 하거나, 다른 방식으로 생각하거나 살고 싶어하는 사람들의 정신적 자주권을 더 많이 받아들이게 하거나, 더 많이 이해하게 만들지 않는다면, 그건 공감이 아닙니다. you have empathy TM. 그건 공감 TM이죠. Why have you been thinking about this this this concept? 이 개념에 대해 왜 생각하게 됐나요? Yeah, so there's this really brilliant 네, 정말 뛰어난 there's this really brilliant guy 정말 뛰어난 분이 있는데 God gad exactly pronouncing Gatsad. 가츠사드라고 발음하는 게 맞는지 모르겠지만요. Um and um and you know very brilliant guy and it's obviously lots of YouTube videos and books and so forth and really brilliant guy. 매우 뛰어난 분이고 유튜브 영상도 많고 책도 있어요. 정말 뛰어난 분입니다. He's got this new book coming out on so-called what he calls suicidal empathy and you know look it's a you know there's a there's a sort of political loading to it which you know we don't need to spend a lot of time on 그분의 새 책이 곧 나오는데, 소위 자멸적 공감이라 부르는 것에 관한 책입니다. 정치적 색채가 있긴 하지만 거기에 많은 시간을 들일 필요는 없습니다. but um you know it's sort of this idea that there are kind of these social justice 그 개념의 핵심은 일종의 사회정의 you know kind of social reform movements you know kind of through time that that have this characteristic of you know they you know they they they claim to be causing positive change you know in some direction and then it turns out they have you know sort of severe you know sort of negative consequences. 사회 개혁 운동들이 시간을 거쳐 공통적인 특성을 보인다는 겁니다. 긍정적인 변화를 일으키고 있다고 주장하지만, 결국 심각한 부정적 결과를 낳는다는 것이죠. um that the the great Thomas Soul 위대한 토머스 소웰이 um you know has you know basically spent 50 years writing books about this um and [laughter] and by the way no nobody nobody listened 이 주제로 50년간 책을 써왔는데, [웃음] 아무도 귀를 기울이지 않았습니다. um and then in the last decade we've been through you know wave after wave of this kind of social activism that kind of you know results in like I mean it's it's all the stuff right 그리고 지난 10년간 우리는 이런 사회 운동이 물결처럼 밀려오는 것을 경험했습니다. it's just you know all these like you know crime policy reform defund the police things and it causes these massive crime waves and then of course low-inccome and minority people get hit hardest by that and you know all the all all these other all these other crazy things. 범죄 정책 개혁, 경찰 예산 삭감 같은 것들이요. 그 결과 거대한 범죄 파동이 일었고, 저소득층과 소수 집단이 가장 큰 타격을 받았습니다. Um, and so he says, you know, he says the characteristic of kind of that kind of social reform movement is is characterized by what he calls suicidal empathy. 그래서 그분은 그런 종류의 사회 개혁 운동의 특성을 자멸적 공감이라고 부릅니다. Um, and the and the idea be being basically it's it's sort of driven by a pathological, you know, take it backwards, a pathological form of empathy on the one hand. 그 이면에는 기본적으로 병적인 형태의 공감이 있습니다. Um, which is, you know, it's sort of a deep desire to be nice. 즉, 친절하고 싶다는 깊은 욕망입니다. Um, and empathetic um, you know, but but coupled with like basically you know, a sort of self-destructiveness, you know, either a willingness to really cause damage to the people you claim to be speaking for or by the way to cause damage to yourself kind of in that process. 공감하고 싶다는 욕망인데, 동시에 일종의 자기파괴성이 결합되어 있습니다. 자신이 대변한다는 사람들에게 실제로 해를 끼치거나, 그 과정에서 자기 자신을 해치려는 의지랄까요. And and it's the kind of thing where you know if you've you know you know if you've lived through you know like everybody who you know everybody in San Francisco's lived through this for the last decade and seen the consequences of these movements. 샌프란시스코에서 지난 10년을 살면서 이런 운동의 결과를 직접 목격한 사람이라면 모두 공감할 것입니다. I [clears throat] you know the San Francisco version of this is like the the quote harm reduction movement you know that ended up basically handing out you know free drug you know paraphernia and you know in some cases actually just free drugs to you know people who are just literally dying in the street from drug addiction. 샌프란시스코 버전은 이른바 피해 감소 운동입니다. 결국 거리에서 마약 중독으로 죽어가는 사람들에게 무료 마약 도구를, 어떤 경우에는 마약 자체를 나눠줬죠. Right. 맞아요. So so so you just look at it and you're like well yeah that that you know they they claim to be activists they claim to be reformers. 그걸 보면 이렇게 됩니다. 그들은 활동가라고, 개혁가라고 주장하잖아요. they claim to care about these people and yet they're killing them or or um and then killing the city um and causing innocent people to get get harmed. 이 사람들을 걱정한다고 말하는데 실제로는 그들을 죽이고 있고, 도시를 망가뜨리고, 무고한 사람들이 피해를 입게 하고 있습니다. It's like okay that you know you know that that that you know they seem so actively like that they're doing it out of some sense of compassion that this must be suicidal empathy. 연민에서 비롯됐다고 주장하는데, 이게 바로 자멸적 공감이겠죠. Um the problem [laughter] with it is and I think that the problem is the theory is sort of easily falsifiable or or maybe let's lets the reformers off the hook which is they certainly don't show empathy to their enemies, right? 문제는 [웃음] 이 이론이 쉽게 반증되거나 개혁가들을 면책해줄 수 있다는 겁니다. 그들은 분명히 적들에게는 공감을 보이지 않거든요. And so if they're like if they're like all empathetic, you would think that they would be less aggro uh when it comes to destroying their ideological opponents, you know, who they act, you know, they take great delight in trying to wreck. 만약 그들이 공감적이라면, 이념적 반대자를 파괴하려 할 때 덜 공격적일 것 같지 않나요? 그들은 반대자를 망가뜨리는 데서 큰 기쁨을 얻거든요. Um number one, on the one hand, and then and then number two is they they use the you know, the classic reformer move is to use use these movements to gain to gain power and status and money for themselves. 한편으로는 이 운동을 이용해 자신들을 위한 권력, 지위, 자금을 획득하는 전형적인 개혁가의 수법을 씁니다. And you know, again, San Francisco's a case study of this where you have all these, you know, nonprofits that, you know, recall this damage on the city and yet, you know, basically get like lavishly funded, you know, including, by the way, by the city government, by the state government. 샌프란시스코의 경우를 보면, 도시에 피해를 입히는 이 비영리 단체들이 시 정부와 주 정부에서까지 후한 지원을 받고 있습니다. Um, and so it's just like, okay, well, like just like they're not, if you just like spend two seconds thinking about it, like it, you know, they're neither empathetic nor nor are they suicidal, right? 잠깐만 생각해보면, 그들은 공감적이지도 않고 자멸적이지도 않죠. Right? 그렇죠? Rather quite the opposite. 오히려 정반대입니다. They're hateful and they're and they're and they're and they're greedy. 그들은 증오심을 품고 있고 탐욕스럽습니다. You know, they're sort of self- aggrandizing um and and gathering power and resources for themselves. 자기과시적이고 권력과 자원을 자신들을 위해 모아가고 있죠. Um, and so I just I just think it it it lets it lets the phenomenon off the hook, you know, it's a little bit like,"Oh, Eric, what's your biggest flaw?" 그래서 저는 이 이론이 현상을 면책해준다고 생각합니다. 마치 '에릭, 당신의 가장 큰 단점이 뭔가요?'라고 물어보는 것처럼요. You know,"Oh, I'm too nice." 그러면 '저는 너무 착한 게 단점이에요.'라고 답하는 것처럼요. Yeah. 맞아요. Yeah. 그렇죠. I care too much. 너무 많이 신경을 써서요. Right. 맞아요. Exactly. 정확히요. It's like, yeah, don't Like, I I 그래요, 저는 그게 좀 그렇고 By the way, Eric, I don't know. 에릭, 솔직히 모르겠어요. I don't know what your biggest flaw is. 당신의 가장 큰 단점이 뭔지 모르겠지만. Like, it's definitely like, it's definitely not that because that's also definitely not my flaw. 확실한 건 그런 건 아니에요. 제 단점도 절대 그게 아니고요. Like, I I guarantee I have other things wrong with me that are like way more wrong than 저한테 훨씬 더 나쁜 다른 단점들이 있습니다. Yeah. 맞아요. Um, and so I I I just I 그래서 저는 그냥