La Vision du monde de Marc Andreessen en 60 minutes | Live on MTS

People are becoming what we now refer to as AI vampires. Les gens deviennent ce qu'on appelle maintenant les vampires de l'IA. They've got these huge bags under their eyes. Ils ont ces énormes cernes sous les yeux. They're completely exhausted, but they're like euphoric. Ils sont complètement épuisés, mais comme euphoriques. They're thrilled. Ils sont ravis. We're entering a golden age, which is AI is going to be a superpower that everybody on the planet's going to have access to. Nous entrons dans un âge d'or, où l'IA va être un superpouvoir auquel tout le monde sur la planète aura accès. It's like the most dramatic increase in programmer productivity in like ever. C'est comme la plus dramatique augmentation de productivité des programmeurs de toute l'histoire. Twitter proved it, right? Twitter en a fait la preuve, non ? Cutting 70% and then it's running better or as good as it was before. Couper 70 % des effectifs et ça tourne mieux ou aussi bien qu'avant. I generally don't wish I could go back in time and do things over again, but it would be really really fun right now to be 18 or 20 or 22 and to have this capability and figure out what I could do with it. En général je ne souhaite pas remonter le temps pour tout recommencer, mais ce serait vraiment amusant maintenant d'avoir 18, 20 ou 22 ans et d'avoir cette capacité et de découvrir ce que je pourrais en faire. We are going to see super producers the likes of which we've never seen in the world. Nous allons voir des super-producteurs comme le monde n'en a jamais vu. There's news about it. Il y a des nouvelles là-dessus. UFOs. OVNI. What is clear is the government at certain times has hid certain materials. Ce qui est clair, c'est que le gouvernement, à certains moments, a dissimulé certains éléments. Why would they do that if there's nothing to really worry about? Pourquoi ferait-il ça s'il n'y a rien de vraiment inquiétant ? Two things are pretty clear at this point. Deux choses sont assez claires à ce stade. One is that La première, c'est que Mark, welcome to monitoring the situation. Marc, bienvenue dans le suivi de la situation. Eric, it is great to be back. Erik, c'est super d'être de retour. So, there's a lot to monitor today. Alors, il y a beaucoup à surveiller aujourd'hui. Uh I want to start first start with something that just happened um which is the uh anthropic uh blackmailing incident. Euh, je veux commencer d'abord par quelque chose qui vient juste de se passer, à savoir l'incident de chantage chez Anthropic. And I I first want to tell a brief story which is uh my uh friend Joe Hudson has this concept called the golden algorithm. Et je veux d'abord raconter une brève histoire : mon ami Joe Hudson a ce concept appelé le golden algorithm. And the golden algorithm is states that um whatever you're scared about you bring it about in exactly the way you're scared about it. Et le golden algorithm stipule que quelle que soit votre peur, vous la provoquez exactement de la façon dont vous la craigniez. So if you're scared about getting abandoned you'll be super insecure and then you'll people will abandon you because you're so insecure. Donc si vous avez peur d'être abandonné, vous serez super insécure et les gens vous abandonneront parce que vous êtes si insécure. Uh this is an example of a literal golden algorithm where people have been so scared that AI is going to be evil and have written about all the ways in which it's evil and in fact maybe it's informed um informed something. C'est un exemple littéral de golden algorithm où des gens ont eu tellement peur que l'IA soit mauvaise et ont écrit sur toutes les façons dont elle est mauvaise et en fait peut-être que ça a informé quelque chose. What's happening there or what do we find uh interesting? Qu'est-ce qui se passe là ou qu'est-ce qu'on trouve intéressant ? I I haven't studied this one in detail. Je n'ai pas étudié ce cas en détail. Um uh I I've been monitoring other situations but however um uh I mean just what I saw so far Euh, je surveille d'autres situations, mais bon, euh, je veux dire, juste d'après ce que j'ai vu jusqu'ici I think I just saw anthropics thread. Je crois que j'ai juste vu le fil d'Anthropic. I haven't I haven't I haven't read the underlying material yet, but Anthropic threads have said they trace the they trace some blackmail behavior to literally to the to the AI doomer literature. Je n'ai pas lu le matériel sous-jacent, mais les fils d'Anthropic ont dit qu'ils ont tracé un comportement de chantage littéralement jusqu'à la littérature doomeriste sur l'IA. Yeah. Ouais. That they [laughter] that it was in the training data. Que [rires] que c'était dans les données d'entraînement. So there there are all these there are all these there are all these you know scenarios of like you know the terminate you know all the rogue AI gone wrong that the that the AI doomer has been writing about for 20 years and and literally anthropic of course which is of course the company is like you know half doomer u apparently you know basically you know essentially said that their own their own their own movement's literature is the thing that's causing the behavior that they say they they they don't want. Alors il y a tous ces scénarios genre vous savez, terminer, toutes ces IA hors de contrôle qui tournent mal, que les doomers de l'IA écrivent depuis 20 ans, et Anthropic bien sûr, qui est la boîte qui est genre à moitié doomers, a apparemment dit que la littérature de leur propre mouvement est ce qui cause le comportement qu'ils disent ne pas vouloir. So it is a fairly um incredible Donc c'est assez incroyable Yes. Oui. Yes it is. Oui, ça l'est. Yes. Oui. Oh, I mean like look if you didn't if you don't want to build the killer AI, you know, step one would be don't build the Oh, je veux dire, si vous ne voulez pas construire l'IA tueuse, l'étape une serait de ne pas construire la [laughter] [rires] It's like hm and then you know step two is like don't train it on all the data that says it's supposed to, you know, the literature that your movement wrote that says it's supposed to be a killer AI. C'est comme, hm, et puis l'étape deux serait genre de ne pas l'entraîner sur toutes les données qui disent qu'elle est censée, vous savez, la littérature que votre mouvement a écrite qui dit qu'elle est censée être une IA tueuse. So I, you know, Yeah. Donc je, vous savez, ouais. I don't know. Je ne sais pas. Yeah. Ouais. It's like your it's like your your your golden algorithm coupled coupled with like the snake eating his tail. C'est comme votre, c'est comme votre golden algorithm couplé avec le serpent qui se mange la queue. Um coupled with, you know, I don't even know. Couplé avec, vous savez, je ne sais même pas. Like the whole thing is so bananas. Comme tout ça c'est tellement dingue. Yeah. Ouais. Yeah. Ouais. the um le euh I mean you know I can't resist you know if I could if I can if I can act out memes it's the scream meme right Je veux dire, vous savez, je ne peux pas résister, si je peux jouer des mèmes c'est le mème du cri, non ? which is you know the calls coming from inside the house. c'est-à-dire, les appels viennent de l'intérieur de la maison. Yeah. Ouais. Yeah. Ouais. Exactly. Exactement. The um speaking of other situations another thing you've been talking about recently is um is the concept of suicidal empathy and and and Matt Kramer had a good quote which is if the empathy you have doesn't make you more forgiving more accepting of other people's spiritual sovereignty or more understanding of people who don't want to think or live the same way you do you don't have empathy. Euh, en parlant d'autres situations, autre chose dont vous avez parlé récemment c'est le concept d'empathie suicidaire, et Matt Kramer avait une bonne citation : si l'empathie que vous avez ne vous rend pas plus indulgent, plus acceptant de la souveraineté spirituelle des autres ou plus compréhensif envers les gens qui ne veulent pas penser ou vivre de la même façon que vous, vous n'avez pas de l'empathie. you have empathy TM. Vous avez de l'empathie™. Why have you been thinking about this this this concept? Pourquoi réfléchissez-vous à ce concept ? Yeah, so there's this really brilliant Ouais, alors il y a ce gars vraiment brillant there's this really brilliant guy il y a ce gars vraiment brillant God gad exactly pronouncing Gatsad. Euh, Gatsad, c'est comme ça qu'il se prononce à peu près. Um and um and you know very brilliant guy and it's obviously lots of YouTube videos and books and so forth and really brilliant guy. Et, euh, c'est un gars très brillant, il y a évidemment plein de vidéos YouTube et des livres et ainsi de suite, vraiment brillant. He's got this new book coming out on so-called what he calls suicidal empathy and you know look it's a you know there's a there's a sort of political loading to it which you know we don't need to spend a lot of time on Il a ce nouveau livre qui sort sur ce qu'il appelle l'empathie suicidaire, et vous savez, c'est un peu chargé politiquement, ce qu'on n'a pas besoin d'approfondir but um you know it's sort of this idea that there are kind of these social justice mais c'est cette idée que voilà, il y a ces mouvements de justice sociale you know kind of social reform movements you know kind of through time that that have this characteristic of you know they you know they they they claim to be causing positive change you know in some direction and then it turns out they have you know sort of severe you know sort of negative consequences. ces mouvements de réforme sociale à travers les âges qui ont cette caractéristique de prétendre apporter un changement positif dans un sens, et puis il s'avère qu'ils ont des conséquences sévèrement négatives. um that the the great Thomas Soul que le grand Thomas Sowell um you know has you know basically spent 50 years writing books about this um and [laughter] and by the way no nobody nobody listened a fondamentalement passé 50 ans à écrire des livres là-dessus, et [rires], et d'ailleurs personne n'a écouté um and then in the last decade we've been through you know wave after wave of this kind of social activism that kind of you know results in like I mean it's it's all the stuff right et puis dans la dernière décennie, on a traversé vague après vague de ce genre d'activisme social qui aboutit à, je veux dire, c'est tout ça, hein it's just you know all these like you know crime policy reform defund the police things and it causes these massive crime waves and then of course low-inccome and minority people get hit hardest by that and you know all the all all these other all these other crazy things. c'est juste toutes ces réformes de politique pénale, démantèlement de la police, et ça provoque ces énormes vagues de criminalité, et bien sûr ce sont les gens à faible revenu et les minorités qui sont les plus touchés, et toutes ces autres choses folles. Um, and so he says, you know, he says the characteristic of kind of that kind of social reform movement is is characterized by what he calls suicidal empathy. Et il dit que la caractéristique de ce genre de mouvement de réforme sociale est caractérisée par ce qu'il appelle l'empathie suicidaire. Um, and the and the idea be being basically it's it's sort of driven by a pathological, you know, take it backwards, a pathological form of empathy on the one hand. Et l'idée fondamentale c'est que c'est une forme pathologique d'empathie d'un côté. Um, which is, you know, it's sort of a deep desire to be nice. C'est-à-dire un désir profond d'être gentil. Um, and empathetic um, you know, but but coupled with like basically you know, a sort of self-destructiveness, you know, either a willingness to really cause damage to the people you claim to be speaking for or by the way to cause damage to yourself kind of in that process. Et empathique, mais couplé avec une sorte d'autodestruction, soit une volonté de vraiment causer des dommages aux personnes pour lesquelles vous prétendez parler, soit aussi de vous causer des dommages à vous-même dans le processus. And and it's the kind of thing where you know if you've you know you know if you've lived through you know like everybody who you know everybody in San Francisco's lived through this for the last decade and seen the consequences of these movements. Et c'est le genre de chose que vous comprenez si vous avez vécu, si vous avez habité San Francisco dans la dernière décennie et vu les conséquences de ces mouvements. I [clears throat] you know the San Francisco version of this is like the the quote harm reduction movement you know that ended up basically handing out you know free drug you know paraphernia and you know in some cases actually just free drugs to you know people who are just literally dying in the street from drug addiction. La version San Francisco de ça c'est le mouvement dit de réduction des risques qui a fini par distribuer du matériel de consommation de drogues, et dans certains cas carrément des drogues gratuites, à des gens qui mouraient littéralement dans la rue d'addiction. Right. Voilà. So so so you just look at it and you're like well yeah that that you know they they claim to be activists they claim to be reformers. Donc vous regardez ça et vous dites : ouais, ils se prétendent activistes, réformateurs. they claim to care about these people and yet they're killing them or or um and then killing the city um and causing innocent people to get get harmed. Ils prétendent se soucier de ces personnes et pourtant ils les tuent, et ils tuent la ville, et ils causent du tort à des innocents. It's like okay that you know you know that that that you know they seem so actively like that they're doing it out of some sense of compassion that this must be suicidal empathy. C'est comme, ouais, vous savez, ils semblent si activement, ils le font par une sorte de compassion, ça doit donc être de l'empathie suicidaire. Um the problem [laughter] with it is and I think that the problem is the theory is sort of easily falsifiable or or maybe let's lets the reformers off the hook which is they certainly don't show empathy to their enemies, right? Le problème [rires] avec ça, et je pense que le problème c'est que la théorie est facilement falsifiable ou qu'elle laisse les réformateurs s'en tirer à bon compte : ils ne montrent certainement pas d'empathie envers leurs ennemis, n'est-ce pas ? And so if they're like if they're like all empathetic, you would think that they would be less aggro uh when it comes to destroying their ideological opponents, you know, who they act, you know, they take great delight in trying to wreck. Et donc si quelqu'un est tout empathique, on pourrait penser qu'il serait moins agressif quand il s'agit de détruire ses adversaires idéologiques, envers qui il prend un grand plaisir à essayer de nuire. Um number one, on the one hand, and then and then number two is they they use the you know, the classic reformer move is to use use these movements to gain to gain power and status and money for themselves. Et d'une part, et d'autre part ils utilisent le mouvement de réforme classique qui consiste à utiliser ces mouvements pour gagner du pouvoir, du statut et de l'argent pour eux-mêmes. And you know, again, San Francisco's a case study of this where you have all these, you know, nonprofits that, you know, recall this damage on the city and yet, you know, basically get like lavishly funded, you know, including, by the way, by the city government, by the state government. Et encore une fois, San Francisco est une étude de cas là-dessus : vous avez toutes ces ONG qui provoquent ces dégâts à la ville et pourtant sont richement financées, y compris d'ailleurs par la ville et le gouvernement de l'État. Um, and so it's just like, okay, well, like just like they're not, if you just like spend two seconds thinking about it, like it, you know, they're neither empathetic nor nor are they suicidal, right? Et donc c'est juste que si vous prenez deux secondes pour y réfléchir, ils ne sont ni empathiques, ni suicidaires, hein ? Right? N'est-ce pas ? Rather quite the opposite. Bien au contraire. They're hateful and they're and they're and they're and they're greedy. Ils sont haineux et avides. You know, they're sort of self- aggrandizing um and and gathering power and resources for themselves. Ils sont un peu auto-aggrandissants, accumulant pouvoir et ressources pour eux-mêmes. Um, and so I just I just think it it it lets it lets the phenomenon off the hook, you know, it's a little bit like,"Oh, Eric, what's your biggest flaw?" Et donc je pense juste que ça laisse le phénomène s'en tirer, un peu comme : « Oh, Erik, quel est votre plus grand défaut ? » You know,"Oh, I'm too nice." « Oh, je suis trop gentil. » Yeah. Ouais. Yeah. Ouais. I care too much. Je me soucie trop. Right. Voilà. Exactly. Exactement. It's like, yeah, don't Like, I I C'est genre, ouais, ne... je By the way, Eric, I don't know. D'ailleurs, Erik, je ne sais pas. I don't know what your biggest flaw is. Je ne sais pas quel est votre plus grand défaut. Like, it's definitely like, it's definitely not that because that's also definitely not my flaw. C'est définitivement, c'est définitivement pas ça, parce que c'est aussi définitivement pas mon défaut. Like, I I guarantee I have other things wrong with me that are like way more wrong than Je veux dire, je garantis que j'ai d'autres problèmes qui sont bien plus graves que Yeah. Ouais. Um, and so I I I just I Et donc je, je