Мировоззрение Марка Андрессена за 60 минут | Прямой эфир на MTS

People are becoming what we now refer to as AI vampires. Люди превращаются в то, что мы теперь называем AI-вампирами. They've got these huge bags under their eyes. У них огромные мешки под глазами. They're completely exhausted, but they're like euphoric. Они полностью вымотаны, но при этом в эйфории. They're thrilled. Они в восторге. We're entering a golden age, which is AI is going to be a superpower that everybody on the planet's going to have access to. Мы вступаем в золотой век: AI станет суперсилой, доступной каждому жителю планеты. It's like the most dramatic increase in programmer productivity in like ever. Это самый драматичный рост производительности программистов за всю историю. Twitter proved it, right? Twitter это доказал, верно? Cutting 70% and then it's running better or as good as it was before. Сократили 70% сотрудников, а всё работает не хуже, а то и лучше, чем прежде. I generally don't wish I could go back in time and do things over again, but it would be really really fun right now to be 18 or 20 or 22 and to have this capability and figure out what I could do with it. Обычно я не мечтаю вернуться в прошлое и что-то переделать, но сейчас было бы безумно круто оказаться в 18, 20 или 22 года и иметь эти возможности, чтобы понять, что с ними можно сделать. We are going to see super producers the likes of which we've never seen in the world. Мы увидим суперпродуктивных людей, которых мир ещё не знал. There's news about it. Об этом есть новости. UFOs. НЛО. What is clear is the government at certain times has hid certain materials. Очевидно одно: правительство в определённые времена скрывало некоторые материалы. Why would they do that if there's nothing to really worry about? Зачем им это, если беспокоиться не о чем? Two things are pretty clear at this point. Два вещи сейчас вполне очевидны. One is that Первое: Mark, welcome to monitoring the situation. Марк, добро пожаловать на «Мониторим ситуацию». Eric, it is great to be back. Эрик, рад снова быть здесь. So, there's a lot to monitor today. Итак, сегодня есть что мониторить. Uh I want to start first start with something that just happened um which is the uh anthropic uh blackmailing incident. Хочу начать с того, что только что произошло: инцидент с Anthropic и шантажом. And I I first want to tell a brief story which is uh my uh friend Joe Hudson has this concept called the golden algorithm. Сначала расскажу короткую историю. Мой друг Джо Хадсон придумал концепцию «золотого алгоритма». And the golden algorithm is states that um whatever you're scared about you bring it about in exactly the way you're scared about it. Золотой алгоритм гласит: чего бы вы ни боялись, вы сами это и воплощаете, именно в той форме, которой боитесь. So if you're scared about getting abandoned you'll be super insecure and then you'll people will abandon you because you're so insecure. Если вы боитесь быть брошенным, вы становитесь настолько неуверенным, что люди вас бросают именно из-за этой неуверенности. Uh this is an example of a literal golden algorithm where people have been so scared that AI is going to be evil and have written about all the ways in which it's evil and in fact maybe it's informed um informed something. Это буквальный пример золотого алгоритма: люди так боялись, что AI окажется злым, и столько писали о том, как именно он мог бы быть злым, что, возможно, это что-то и сформировало. What's happening there or what do we find uh interesting? Что там происходит или что нас интересует? I I haven't studied this one in detail. Я не изучал этот случай детально. Um uh I I've been monitoring other situations but however um uh I mean just what I saw so far Я следил за другими ситуациями, но по тому, что успел увидеть... I think I just saw anthropics thread. Кажется, я просто видел тред Anthropic. I haven't I haven't I haven't read the underlying material yet, but Anthropic threads have said they trace the they trace some blackmail behavior to literally to the to the AI doomer literature. Я не читал первоисточники, но в тредах Anthropic сказано, что они проследили поведение с шантажом буквально до литературы AI-думеров. Yeah. Да. That they [laughter] that it was in the training data. Что это было в обучающих данных. [смех] So there there are all these there are all these there are all these you know scenarios of like you know the terminate you know all the rogue AI gone wrong that the that the AI doomer has been writing about for 20 years and and literally anthropic of course which is of course the company is like you know half doomer u apparently you know basically you know essentially said that their own their own their own movement's literature is the thing that's causing the behavior that they say they they they don't want. Существуют все эти сценарии: «Терминатор», бунт ИИ, всё что AI-думеры писали 20 лет. И буквально Anthropic, компания наполовину состоящая из думеров, фактически заявила, что литература их собственного движения является причиной того поведения, которого они якобы не хотят. So it is a fairly um incredible Это довольно невероятно. Yes. Да. Yes it is. Да, именно так. Yes. Да. Oh, I mean like look if you didn't if you don't want to build the killer AI, you know, step one would be don't build the Если вы не хотите создать убийственный AI, шаг первый: не создавайте его. [laughter] [смех] It's like hm and then you know step two is like don't train it on all the data that says it's supposed to, you know, the literature that your movement wrote that says it's supposed to be a killer AI. И шаг второй: не обучайте его на данных, где написано, что он должен быть убийственным AI, согласно литературе вашего же движения. So I, you know, Yeah. Ну, да. I don't know. Не знаю. Yeah. Да. It's like your it's like your your your golden algorithm coupled coupled with like the snake eating his tail. Это как ваш золотой алгоритм в сочетании со змеёй, кусающей собственный хвост. Um coupled with, you know, I don't even know. В сочетании с... я даже не знаю. Like the whole thing is so bananas. Весь этот абсурд просто зашкаливает. Yeah. Да. Yeah. Да. the um Вот... I mean you know I can't resist you know if I could if I can if I can act out memes it's the scream meme right Не могу удержаться: если разыгрывать мемы, то это мем с криком. which is you know the calls coming from inside the house. Звонок поступает изнутри дома. Yeah. Да. Yeah. Да. Exactly. Именно. The um speaking of other situations another thing you've been talking about recently is um is the concept of suicidal empathy and and and Matt Kramer had a good quote which is if the empathy you have doesn't make you more forgiving more accepting of other people's spiritual sovereignty or more understanding of people who don't want to think or live the same way you do you don't have empathy. Говоря о других ситуациях: вы недавно обсуждали концепцию «суицидальной эмпатии». Мэтт Крамер хорошо сказал: если ваша эмпатия не делает вас более прощающим, более принимающим духовный суверенитет других или более понимающим тех, кто не хочет думать и жить так же, как вы, это не эмпатия. you have empathy TM. Это эмпатия™. Why have you been thinking about this this this concept? Почему вас занимает эта концепция? Yeah, so there's this really brilliant Да, есть один по-настоящему блестящий... there's this really brilliant guy Есть один по-настоящему блестящий человек. God gad exactly pronouncing Gatsad. Гад... именно, произношу Гатсад. Um and um and you know very brilliant guy and it's obviously lots of YouTube videos and books and so forth and really brilliant guy. Очень блестящий человек, масса видео на YouTube, книги и всё такое, по-настоящему блестящий. He's got this new book coming out on so-called what he calls suicidal empathy and you know look it's a you know there's a there's a sort of political loading to it which you know we don't need to spend a lot of time on У него выходит новая книга о том, что он называет «суицидальной эмпатией». Это политически нагруженная тема, на которой не стоит особо задерживаться. but um you know it's sort of this idea that there are kind of these social justice Но это идея о том, что существуют некие движения за социальную справедливость... you know kind of social reform movements you know kind of through time that that have this characteristic of you know they you know they they they claim to be causing positive change you know in some direction and then it turns out they have you know sort of severe you know sort of negative consequences. Социальные реформаторские движения, которые заявляют о позитивных переменах, а потом оказывается, что они несут серьёзные негативные последствия. um that the the great Thomas Soul Великий Томас Соуэлл... um you know has you know basically spent 50 years writing books about this um and [laughter] and by the way no nobody nobody listened Провёл 50 лет, пиша книги об этом. И никто не слушал. [смех] um and then in the last decade we've been through you know wave after wave of this kind of social activism that kind of you know results in like I mean it's it's all the stuff right В последнее десятилетие мы пережили волну за волной такого социального активизма. it's just you know all these like you know crime policy reform defund the police things and it causes these massive crime waves and then of course low-inccome and minority people get hit hardest by that and you know all the all all these other all these other crazy things. Всё это: реформы уголовной политики, «разоружить полицию», которые порождают волны преступности, и в первую очередь страдают малоимущие и меньшинства. Um, and so he says, you know, he says the characteristic of kind of that kind of social reform movement is is characterized by what he calls suicidal empathy. Он говорит, что характерная черта таких реформаторских движений: то, что он называет суицидальной эмпатией. Um, and the and the idea be being basically it's it's sort of driven by a pathological, you know, take it backwards, a pathological form of empathy on the one hand. Идея в том, что в основе лежит патологическая форма эмпатии. Um, which is, you know, it's sort of a deep desire to be nice. Глубокое желание быть добрым. Um, and empathetic um, you know, but but coupled with like basically you know, a sort of self-destructiveness, you know, either a willingness to really cause damage to the people you claim to be speaking for or by the way to cause damage to yourself kind of in that process. И эмпатичным, но в сочетании с саморазрушением: готовностью реально навредить людям, о которых якобы говоришь, или самому себе в этом процессе. And and it's the kind of thing where you know if you've you know you know if you've lived through you know like everybody who you know everybody in San Francisco's lived through this for the last decade and seen the consequences of these movements. Если вы прожили в Сан-Франциско последнее десятилетие и видели последствия этих движений, то понимаете. I [clears throat] you know the San Francisco version of this is like the the quote harm reduction movement you know that ended up basically handing out you know free drug you know paraphernia and you know in some cases actually just free drugs to you know people who are just literally dying in the street from drug addiction. Версия этого в Сан-Франциско: движение за «снижение вреда», которое раздавало бесплатные наркопринадлежности, а в некоторых случаях и сами наркотики людям, умиравшим на улице от наркозависимости. Right. Верно. So so so you just look at it and you're like well yeah that that you know they they claim to be activists they claim to be reformers. Смотришь на это и думаешь: они называют себя активистами, реформаторами. they claim to care about these people and yet they're killing them or or um and then killing the city um and causing innocent people to get get harmed. Они заявляют, что заботятся об этих людях, но при этом убивают их, убивают город и причиняют вред невиновным. It's like okay that you know you know that that that you know they seem so actively like that they're doing it out of some sense of compassion that this must be suicidal empathy. Кажется, они так активно делают это из чувства сострадания, что это и есть суицидальная эмпатия. Um the problem [laughter] with it is and I think that the problem is the theory is sort of easily falsifiable or or maybe let's lets the reformers off the hook which is they certainly don't show empathy to their enemies, right? Проблема, и я думаю, что теория легко опровергается или отпускает реформаторов с крючка: они явно не проявляют эмпатии к своим врагам, верно? And so if they're like if they're like all empathetic, you would think that they would be less aggro uh when it comes to destroying their ideological opponents, you know, who they act, you know, they take great delight in trying to wreck. Если бы они были такими эмпатичными, можно было бы ожидать, что они менее агрессивны в уничтожении идеологических противников, которых они пытаются разрушить с видимым удовольствием. Um number one, on the one hand, and then and then number two is they they use the you know, the classic reformer move is to use use these movements to gain to gain power and status and money for themselves. Первое: они используют классический реформаторский приём, превращая эти движения в источник власти, статуса и денег для себя. And you know, again, San Francisco's a case study of this where you have all these, you know, nonprofits that, you know, recall this damage on the city and yet, you know, basically get like lavishly funded, you know, including, by the way, by the city government, by the state government. И снова Сан-Франциско как кейс: все эти НКО наносят вред городу, но при этом щедро финансируются, в том числе городским и государственным правительством. Um, and so it's just like, okay, well, like just like they're not, if you just like spend two seconds thinking about it, like it, you know, they're neither empathetic nor nor are they suicidal, right? Если потратить секунду на размышление, они не эмпатичны и не суицидальны. Right? Правда? Rather quite the opposite. Скорее наоборот. They're hateful and they're and they're and they're and they're greedy. Они злобны, жадны. You know, they're sort of self- aggrandizing um and and gathering power and resources for themselves. Самовозвеличивающиеся, накапливающие власть и ресурсы для себя. Um, and so I just I just think it it it lets it lets the phenomenon off the hook, you know, it's a little bit like,"Oh, Eric, what's your biggest flaw?" Мне кажется, это немного отпускает феномен с крючка. Это как ответ: «Эрик, какой ваш главный недостаток?» You know,"Oh, I'm too nice." «Я слишком добрый.» Yeah. Да. Yeah. Да. I care too much. Мне слишком не всё равно. Right. Верно. Exactly. Именно. It's like, yeah, don't Like, I I Ну да, мне... By the way, Eric, I don't know. Кстати, Эрик, не знаю. I don't know what your biggest flaw is. Не знаю, что ваш главный недостаток. Like, it's definitely like, it's definitely not that because that's also definitely not my flaw. Но точно не это, и это точно не мой недостаток. Like, I I guarantee I have other things wrong with me that are like way more wrong than Гарантирую, у меня есть другие изъяны, гораздо более серьёзные. Yeah. Да. Um, and so I I I just I Ну, я просто...