Mein Techno-Optimismus

2024-01-04 18:43:19

Erweitert

Dieser Artikel erforscht die Schnittstelle von künstlicher Intelligenz und Blockchain und führt das Konzept von "d/acc" (dezentralisierte Beschleunigung) ein. Mit unterschiedlichen philosophischen Hintergründen befürwortet Vitalik einen ausgewogenen und durchdachten Ansatz und drängt Entwickler dazu, Entscheidungen und Absichten beim Aufbau von Technologie zu priorisieren.

Besonderer Dank an Morgan Beller, Juan Benet, Eli Dourado, Karl Floersch, Sriram Krishnan, Nate Soares, Jaan Tallinn, Vincent Weisser, Balvi Freiwillige und andere für Feedback und Überprüfung.

Im letzten Monat veröffentlichte Marc Andreessen seinen “Techno-Optimist Manifest„, das sich für eine erneuerte Begeisterung für Technologie und für Märkte und Kapitalismus als Mittel zum Aufbau dieser Technologie und zur Förderung der Menschheit in eine viel hellere Zukunft ausspricht. Das Manifest lehnt eindeutig ab, was es als Ideologie des Stillstands beschreibt, die Fortschritte fürchtet und es priorisiert, die Welt so zu erhalten, wie sie heute existiert. Dieses Manifest hat viel Aufmerksamkeit erhalten, einschließlich Antwortartikeln von Noah Smith, Robin Hanson, Joshua Gans(positiver), undDave Karpf, Luca Ropek, Ezra Klein(negativer) und viele andere. Nicht verbunden mit diesem Manifest, aber entlang ähnlicher Themen, sind James Pethokoukis'sDer konservative Futuristund PalladiumsEs ist Zeit, für das Gute zu bauenIn diesem Monat sahen wir eine ähnliche Debatte, die durch das OpenAI-Streit, die viele Diskussionen um die Gefahren der superintelligenten KI und die Möglichkeit, dass OpenAI zu schnell voranschreitet, beinhaltete.

Meine eigenen Gefühle gegenüber dem Techno-Optimismus sind warm, aber nuanciert. Ich glaube an eine Zukunft, die dank radikal transformativer Technologie viel heller ist als die Gegenwart, und ich glaube an den Menschen und die Menschheit. Ich lehne die Mentalität ab, dass das Beste, was wir tun sollten, darin besteht, die Welt in etwa so zu erhalten, wie sie heute ist, aber mit weniger Gier und mehr öffentlicher Gesundheitsversorgung. Ich denke jedoch, dass es nicht nur auf die Größe, sondern auch auf die Richtung ankommt. Es gibt bestimmte Arten von Technologien, die die Welt viel zuverlässiger machen als andere Arten von Technologien. Es gibt bestimmte Arten von Technologien, die, wenn sie entwickelt werden, die negativen Auswirkungen anderer Arten von Technologien abmildern könnten. Die Welt überindiziert in einigen Richtungen der technischen Entwicklung und unterindiziert in anderen. Wir brauchen eine aktive menschliche Absicht, um die Richtungen zu wählen, die wir wollen, da die Formel der "Gewinnmaximierung" nicht automatisch zu ihnen führt.

In diesem Beitrag werde ich darüber sprechen, was Technooptimismus für mich bedeutet. Dies umfasst das breitere Weltbild, das meine Arbeit an bestimmten Arten von Blockchain- und Kryptografieanwendungen und sozialer Technologie motiviert, sowie andere Bereiche der Wissenschaft, an denen ich Interesse gezeigt habe. Aber die Perspektiven zu dieser breiteren Frage haben auch Auswirkungen auf KI und viele andere Bereiche. Unsere raschen Fortschritte in der Technologie werden wahrscheinlich das wichtigste soziale Thema im einundzwanzigsten Jahrhundert sein, daher ist es wichtig, sorgfältig darüber nachzudenken.

Inhaltsverzeichnis

Technologie ist erstaunlich, und es gibt sehr hohe Kosten, wenn man sie verzögert

In einigen Kreisen ist es üblich, die Vorteile der Technologie herunterzuspielen und sie hauptsächlich als Quelle der Dystopie und des Risikos zu sehen. In den letzten fünf Jahrzehnten resultierte dies oft entweder aus Umweltbedenken oder aus der Sorge, dass die Vorteile nur den Reichen zugute kommen würden, die ihre Macht über die Armen festigen würden. In letzter Zeit habe ich auch Libertäre gesehen, die sich über einige Technologien Sorgen machen, aus Angst, dass die Technik zur Zentralisierung der Macht führen wird. In diesem Monat habe ich einige Umfragendie folgende Frage stellen: Wenn eine Technologie eingeschränkt werden müsste, weil sie zu gefährlich wäre, um sie frei für jeden zugänglich zu machen, würden sie es bevorzugen, dass sie monopolisiert oder um zehn Jahre verzögert wird? Ich war überrascht zu sehen, dass auf drei Plattformen und drei Auswahlmöglichkeiten für den Monopolisten eine einheitliche überwältigende Stimme für eine Verzögerung abgegeben wurde.

Und manchmal mache ich mir Sorgen, dass wir überkorrigiert haben und viele Menschen die andere Seite des Arguments vermissen: das Vorteile der Technologiesindwirklich verdammt massiv, auf den Achsen, auf denen wir es messen können, überstrahlt das Gute massiv das Schlechte, und die Kosten selbst für ein Jahrzehnt Verzögerung sind unglaublich hoch.

Um ein konkretes Beispiel zu geben, schauen wir uns eine Lebenserwartungstabelle an:

Was sehen wir? Im Laufe des letzten Jahrhunderts wirklich massive Fortschritte. Dies trifft auf die gesamte Welt zu, sowohl auf die historisch wohlhabenden und dominanten Regionen als auch auf die armen und ausgebeuteten Regionen.

Einige machen die Technologie dafür verantwortlich, Katastrophen wie Totalitarismus und Kriege zu schaffen oder zu verschlimmern. Tatsächlich können wir die Todesfälle, die durch die Kriege verursacht wurden, in den Diagrammen sehen: einer in den 1910er Jahren (WW1) und einer in den 1940er Jahren (WW2). Wenn man genau hinschaut, sind auch die Spanische Grippe, der Große Sprung nach Vorne und andere nicht-militärische Tragödien sichtbar. Aber eine Sache wird durch das Diagramm klar: selbst Katastrophen, so grauenhaft wie diese, werden von der schieren Größe des unaufhörlichen Marsches der Verbesserungen in Lebensmittel, Gesundheitspflege, Medizinund Infrastruktur, die im Laufe dieses Jahrhunderts stattfand.

Dies wird durch erhebliche Verbesserungen in unserem Alltag widergespiegelt. Dank des Internets, die meisten Menschen auf der Welthaben heute Zugang zu Informationen, die vor zwanzig Jahren unerreichbar gewesen wären. Die globale Wirtschaft wird dank Verbesserungen bei internationalen Zahlungen und Finanzen immer zugänglicher. Die globale Armut ist schnell fallendDank Online-Karten müssen wir uns nicht mehr darum sorgen, in der Stadt verloren zu gehen, und wenn Sie schnell nach Hause zurückkehren müssen, haben wir jetzt viel einfachere Möglichkeiten, ein Auto zu rufen, um dies zu tun. Unsere Immobilie wird digitalisiert, und unsere physische Waren werden günstiger, bedeutet, dass wir viel weniger Angst vor physischem Diebstahl haben. Online-Shopping hat die Diskrepanz im Zugang zu Waren zwischen den globalen Megastädten und dem Rest der Welt verringert. In vielerlei Hinsicht hat uns die Automatisierung den ewig unterschätzten Vorteil gebracht, einfach nur unser Leben bequemer machen.

Diese Verbesserungen, sowohl quantifizierbar als auch nicht quantifizierbar, sind groß. Und im einundzwanzigsten Jahrhundert besteht eine gute Chance, dass noch größere Verbesserungen bald kommen werden. Heutzutage scheinen das Beenden des Alterns und von Krankheiten utopisch. Aber aus der Sicht von Computer, wie sie im Jahr 1945 existierten, die moderne Ära, in der praktisch alles mit Chips ausgestattet wird, hätte utopisch erschienen: Selbst in Science-Fiction-Filmen waren Computer oft raumgroß. Wenn die Biotechnologie in den nächsten 75 Jahren so weit fortschreitet wie die Computer in den letzten 75 Jahren, könnte die Zukunft beeindruckender sein als die Erwartungen fast aller.

In der Zwischenzeit sind skeptische Argumente über den Fortschritt oft in dunkle Bereiche vorgedrungen. Selbst medizinische Lehrbücher, wie dieses aus den 1990er Jahren (CreditEmma Szewczak(um es zu finden), manchmal extreme Behauptungen aufstellen, die den Wert von zwei Jahrhunderten medizinischer Wissenschaft leugnen und sogar argumentieren, dass es offensichtlich nicht gut ist, Menschenleben zu retten:

Das "Wachstumsgrenzen"These, eine Idee aus den 1970er Jahren, die argumentierte, dass die wachsende Bevölkerung und Industrie letztendlich die begrenzten Ressourcen der Erde erschöpfen würden, endete damit, Chinas Ein-Kind-Politik und Massenhafte Zwangssterilisationen in IndienIn früheren Epochen wurden Bedenken hinsichtlich Überbevölkerung genutzt, um rechtfertigenMasseMord. Und diese Ideen, argumentierte seit 1798, haben eine lange Geschichte von falsch bewiesen werden.

Aus diesen Gründen fühle ich mich zu Beginn sehr unwohl bei Argumenten, die darauf abzielen, die Technologie oder den menschlichen Fortschritt zu verlangsamen. Angesichts der starken Vernetzung aller Sektoren sind selbst sektorale Verlangsamungen riskant. Wenn ich also Dinge schreibe, wie ich sie später in diesem Beitrag sagen werde, und mich vom offenen Enthusiasmus für Fortschritt-unabhängig-von-seiner-Form abwende, sind dies Aussagen, die ich mit schwerem Herzen treffe - und doch ist das 21. Jahrhundert anders und einzigartig genug, dass diese Feinheiten es wert sind, in Betracht gezogen zu werden.

Das gesagt, gibt es einen wichtigen Nuancepunkt, der im größeren Bild gemacht werden muss, insbesondere wenn wir über „Technologie als Ganzes gut ist“ hinausgehen und zum Thema „welche spezifischen Technologien gut sind?“ kommen. Und hier müssen wir zum Hauptanliegen vieler Menschen kommen: die Umwelt.

Die Umgebung und die Bedeutung koordinierter Absicht

Ein Hauptausnahme zu dem Trend, dass in den letzten hundert Jahren so ziemlich alles besser geworden ist, ist der Klimawandel:

Selbst pessimistische Szenarien des anhaltenden Temperaturanstiegs würden bei weitem nicht dazu führen, dass die wörtliche Auslöschung der Menschheit eintritt. Aber solche Szenarien könnten plausibel mehr Menschen töten als große Kriege und die Gesundheit und Lebensgrundlagen der Menschen in den Regionen, in denen die Menschen bereits am stärksten kämpfen, schwerwiegend beeinträchtigen.Eine Studie des Schweizerischen Rückversicherungsinstitutsschlägt vor, dass ein Klimawandelszenario im schlimmsten Fall das BIP der ärmsten Länder der Welt um bis zu 25% senken könnte.Diese Studiedeutet darauf hin, dass die Lebenserwartung in ländlichen Indien möglicherweise um ein Jahrzehnt niedriger ist als sie es sonst wäre, und Studien wie dieses und diesesschlägt vor, dass der Klimawandel bis zum Ende des Jahrhunderts hundert Millionen überzählige Todesfälle verursachen könnte.

Diese Probleme sind ein großes Problem. Meine Antwort darauf, warum ich optimistisch bin, dass wir diese Herausforderungen überwinden können, ist zweigleisig. Erstens, nach Jahrzehnten voller Hype und Wunschdenken, Solarenergieistendlichdreheneine Ecke, und unterstützende Technologien wie Batterienmachen ähnliche Fortschritte. Zweitens können wir uns die Erfolgsbilanz der Menschheit bei der Lösung früherer Umweltprobleme ansehen. Nehmen wir zum Beispiel die Luftverschmutzung. Treffen Sie die Dystopie der Vergangenheit: der Große Smog von London, 1952.

Was ist seitdem passiert? Lassen Sie uns Our World In Data erneut fragen:

Wie sich herausstellt, war 1952 nicht einmal der Höhepunkt: Im späten 19. Jahrhundert wurden noch höhere Konzentrationen von Luftschadstoffen einfach akzeptiert und als normal angesehen. Seitdem haben wir ein Jahrhundert kontinuierlichen und schnellen Rückgangs erlebt. Ich hatte das Glück, das Ende dieser Entwicklung bei meinen Besuchen in China persönlich miterleben zu dürfen: Im Jahr 2014 hohe Konzentrationen von Smog in der Luft,Schätzungen zufolge wird die Lebenserwartung um mehr als fünf Jahre verkürzt, waren normal, aber bis 2020 schien die Luft oft so sauber wie in vielen westlichen Städten. Dies ist nicht unsere einzige Erfolgsgeschichte. In vielen Teilen der Welt, Waldflächen nehmen zu. Die saure Regenkrise verbessert sich. Die Ozonschicht hat sich erholtseit Jahrzehnten.

Für mich ist die Moral der Geschichte folgende: Oft ist es tatsächlich so, dass Version N unserer Zivilisationstechnologie ein Problem verursacht und Version N+1 es behebt. Dies geschieht jedoch nicht automatisch und erfordert absichtliche menschliche Anstrengung. Die Ozonschicht erholt sich, weil, durch internationale Abkommen wie das Montrealer Protokoll haben wir es wiederhergestellt. Die Luftverschmutzung verbessert sich, weil wir sie verbessert haben. Und in ähnlicher Weise sind Sonnenkollektoren nicht massiv besser geworden, weil sie ein vorbestimmter Teil des Energie-Technologiebaums waren; Solarmodule sind massiv besser geworden, weil das jahrzehntelange Bewusstsein für die Bedeutung der Lösung des Klimawandels sowohl Ingenieure motiviert hat, an dem Problem zu arbeiten, als auch Unternehmen und Regierungen, ihre Forschung zu finanzieren. Es handelt sich um bewusstes Handeln, das durch den öffentlichen Diskurs und die Kultur koordiniert wird, die die Perspektiven von Regierungen, Wissenschaftlern, Philanthropen und Unternehmen prägt, und nicht um eine unerbittliche „Techno-Kapitalmaschine“, das diese Probleme gelöst hatte.

KI ist grundlegend anders als andere Technologien und es lohnt sich, besonders vorsichtig zu sein

Viele der abweisenden Meinungen, die ich über KI gelesen habe, stammen aus der Perspektive, dass es sich um „ nur eine weitere Technologie“ handelt: etwas, das in derselben allgemeinen Kategorie wie soziale Medien, Verschlüsselung, Verhütung, Telefone, Flugzeuge, Waffen, die Druckpresse und das Rad liegt. Diese Dinge sind offensichtlich sehr sozial bedeutsam. Sie sind nicht nur isolierte Verbesserungen des Wohlergehens von Individuen: Sie transformieren die Kultur radikal, verändern Machtverhältnisse und schaden Menschen, die stark von der vorherigen Ordnung abhängig waren. Viele leisteten ihnen WiderstandUnd im Großen und Ganzen haben sich die Pessimisten immer als falsch erwiesen.

Aber es gibt eine andere Art, darüber nachzudenken, was KI ist: Es ist eine neue Art von Geist, die schnell an Intelligenz gewinnt, und sie hat eine ernsthafte Chance, die geistigen Fähigkeiten der Menschen zu überholen und die neue Spitzenspezies auf dem Planeten zu werden. Die Klasse der Dinge in dieser Kategorie ist viel kleiner: Wir könnten plausibel Menschen einschließen, die Affen übertreffen, mehrzelliges Leben, das einzelliges Leben übertrifft, die Ursprung des Lebens selbst, und vielleicht die Industrielle Revolution, in der die Maschine den Menschen in körperlicher Stärke überrundete. Plötzlich fühlt es sich an, als würden wir auf viel weniger ausgetretenem Boden gehen.

Existenzielles Risiko ist eine große Sache

Eine Möglichkeit, wie KI, die schief gelaufen ist, die Welt verschlechtern könnte, ist (fast) auf die schlimmstmögliche Weise: es könnte buchstäblich das Aussterben der Menschheit verursachenDies ist eine extreme Behauptung: So viel Schaden wie das Worst-Case-Szenario des Klimawandels oder einer künstlichen Pandemie oder eines Atomkriegs anrichten könnte, gibt es viele Inseln der Zivilisation, die intakt bleiben würden, um die Stücke aufzusammeln. Aber eine superintelligente KI, wenn sie sich entscheidet, sich gegen uns zu wenden, könnte durchaus keine Überlebenden hinterlassen und die Menschheit endgültig beenden. Selbst Marskönnte unsicher sein.

Ein großer Grund zur Sorge liegt darin, dass sich Gate.instrumentelle Konvergenz: für eine sehr breite Klasse von Zielen, die eine superintelligente Entität haben könnte, sind zwei sehr natürliche Zwischenschritte, die die KI unternehmen könnte, um diese Ziele besser zu erreichen, (i) Ressourcen zu verbrauchen und (ii) ihre Sicherheit zu gewährleisten. Die Erde enthält viele Ressourcen, und die Menschen sind Vorhersehbare Bedrohungder Sicherheit einer solchen Entität. Wir könnten versuchen, der KI ein explizites Ziel zu geben, Menschen zu lieben und zu schützen, aber wir haben keine Ahnungwie maneigentlichtundasauf eine Weise, die nicht sofort vollständig zusammenbricht, sobald die KItrifft auf eine unerwartete Situation. Ergo, wir haben ein Problem.

MIRI-Forscher Rob Bensingers Versuchbei der Darstellung verschiedener Schätzungen der Wahrscheinlichkeit, dass KI entweder alle töten oder etwas fast genauso Schlimmes tun wird. Viele der Positionen sind grobe Annäherungen, die auf öffentlichen Äußerungen von Menschen basieren, aber viele andere haben ihre genauen Schätzungen öffentlich bekannt gegeben; ziemlich viele haben eine "Gefahr des Untergangs" von über 25%.

Ein Umfrage unter Maschinenlernforschernab 2022 zeigte, dass Forscher im Durchschnitt davon ausgehen, dass es eine 5-10%ige Chance gibt, dass KI uns buchstäblich alle umbringt: etwa die gleiche Wahrscheinlichkeit wie die statistisch erwartete Chance, dass Du wirst an nicht-biologischen Ursachen wie Verletzungen sterben.

Dies ist alles eine spekulative Hypothese, und wir sollten alle vorsichtig sein bei spekulativen Hypothesen, die komplexe mehrstufige Geschichten beinhalten. Diese Argumente haben jedoch über ein Jahrzehnt der Prüfung überstanden, und daher scheint es zumindest ein wenig besorgniserregend zu sein. Aber selbst wenn Sie sich keine Sorgen um buchstäbliches Aussterben machen, gibt es auch andere Gründe, besorgt zu sein.

Auch wenn wir überleben, ist eine superintelligente KI-Zukunft eine Welt, in der wir leben wollen?

Viel moderne Science-Fiction ist dystopisch und malt KI in einem schlechten Licht. Selbst nicht Science-Fiction-Versuche, mögliche KI-Zukünfte zu identifizieren, geben oftZiemlich unschöne Antworten. Und so ging ich herum und stellte die Frage: Was ist eine Darstellung, ob Science-Fiction oder nicht, einer Zukunft, die superintelligente KI enthält, in der wir leben wollen? Die Antwort, die mit Abstand am häufigsten zurückkam, ist die von Iain Banks Kulturserie.

Die Culture-Serie umfasst eine weit entfernte interstellare Zivilisation, die hauptsächlich von zwei Arten von Akteuren besetzt ist: regulären Menschen und superintelligenten KIs namens Minds. Menschen wurden leicht augmentiert: Die medizinische Technologie erlaubt es theoretisch, dass Menschen unbegrenzt leben können, aber die meisten entscheiden sich dafür, nur etwa 400 Jahre zu leben, scheinbar weil sie zu diesem Zeitpunkt vom Leben gelangweilt sind.

Aus oberflächlicher Sicht scheint das Leben als Mensch gut zu sein: es ist bequem, Gesundheitsprobleme werden versorgt, es gibt eine große Auswahl an Unterhaltungsmöglichkeiten, und es besteht eine positive und synergetische Beziehung zwischen Menschen und Minds. Wenn wir jedoch genauer hinschauen, gibt es ein Problem: Es scheint, dass die Minds vollständig das Sagen haben und die einzige Rolle der Menschen in den Geschichten darin besteht, als Spielfiguren der Minds zu agieren und Aufgaben in deren Namen zu erledigen.

Zitieren aus Gavin Leechs "Gegen die Kultur":

Die Menschen sind nicht die Protagonisten. Auch wenn es in den Büchern so aussieht, als ob ein Mensch Protagonist ist, der große ernsthafte Dinge tut, ist er tatsächlich der Agent einer KI. (Zakalwe ist eine der wenigen Ausnahmen, weil er unmoralische Dinge tun kann, die die Minds nicht wollen.) "Die Minds in der Kultur brauchen die Menschen nicht, und doch brauchen die Menschen gebraucht zu werden." (Ich glaube, nur eine kleine Anzahl von Menschen braucht gebraucht zu werden - oder nur eine kleine Anzahl von ihnen benötigt es genug, um auf die vielen Annehmlichkeiten zu verzichten. Die meisten Menschen leben nicht in diesem Maßstab. Es ist dennoch eine feine Kritik.)

Die Projekte, die die Menschen in Angriff nehmen, bergen Unauthentizität. Fast alles, was sie tun, könnte eine Maschine besser machen. Was können Sie tun? Sie können den Geist anweisen, Sie nicht zu fangen, wenn Sie von der Klippe fallen, die Sie gerade erklimmen - einfach so; Sie können die Backups Ihres Geistes löschen, damit Sie tatsächlich ein Risiko eingehen. Sie können auch einfach die Kultur verlassen und sich einer altmodischen, unfreien "stark evaluativen" Zivilisation anschließen. Die Alternative besteht darin, die Freiheit zu predigen, indem Sie sich dem Kontakt anschließen.

Ich würde behaupten, dass selbst die „bedeutungsvollen“ Rollen, die Menschen in der Culture-Serie zugewiesen werden, eine Herausforderung darstellen; Ich habe ChatGPT (wer sonst?) gefragt, warum Menschen die Rollen bekommen, die sie bekommen, anstatt dass Minds alles komplett alleine machen, und ich persönlich fand seine Antwortenziemlich enttäuschend. Es scheint sehr schwierig zu sein, eine „freundliche“ von superintelligenten KIs dominierte Welt zu haben, in der Menschen etwas anderes als Haustiere sind.

Die Welt, die ich nicht sehen möchte.

Viele andere Science-Fiction-Serien postulieren eine Welt, in der superintelligente KIs existieren, aber Befehle von (nicht verbesserten) biologischen menschlichen Meistern entgegennehmen. Star Trek ist ein gutes Beispiel, das eine Vision der Harmonie zwischen den Raumschiffen und ihren KI "Computer" (und Daten) und ihre menschlichen Betreiber. Allerdings fühlt sich dies wie ein unglaublich instabiles Gleichgewicht an. Die Welt von Star Trek wirkt idyllisch im Moment, aber es ist schwer vorstellbar, dass ihre Vision menschlich-künstlicher Intelligenz-Beziehungen als etwas anderes als eine Übergangsphase ein Jahrzehnt vor dem Zeitpunkt, an dem Raumschiffe vollständig von Computern gesteuert werden und sich nicht mehr mit großen Fluren, künstlicher Schwerkraft und Klimaregelung befassen müssen.

Ein Mensch, der einer superintelligenten Maschine Befehle erteilt, wäre weit weniger intelligent als die Maschine, und sie hätte Zugang zu weniger Informationen. In einem Universum, in dem es ein gewisses Maß an Konkurrenz gibt, würden die Zivilisationen, in denen die Menschen in den Hintergrund treten, diejenigen übertreffen, in denen die Menschen hartnäckig auf Kontrolle bestehen. Darüber hinaus können die Computer selbst die Kontrolle an sich reißen. Um zu verstehen, warum das so ist, stellen Sie sich vor, dass Sie rechtlich gesehen ein buchstäblicher Sklave eines achtjährigen Kindes sind. Wenn du lange mit dem Kind reden könntest, glaubst du, könntest du es davon überzeugen, ein Stück Papier zu unterschreiben, das dich befreit? Ich habe dieses Experiment nicht durchgeführt, aber meine instinktive Antwort ist ein klares Ja. Alles in allem scheint die Tatsache, dass Menschen zu Haustieren werden, ein Attraktor zu sein, dem man nur sehr schwer entkommen kann.

Der Himmel ist nahe, der Kaiser ist überall

Das chinesische Sprichwort 天高皇帝远 ("tian gao huang di yuan"), "der Himmel ist hoch, der Kaiser ist weit weg", verkörpert eine grundlegende Tatsache über die Grenzen der Zentralisierung in der Politik. Selbst in einem nominell großen und despotischen Reich - tatsächlich, besonders wenn das despotische Reich groß ist, gibt es praktische Grenzen für die Reichweite und Aufmerksamkeit der Führung, die Notwendigkeit der Führung, lokale Agenten einzusetzen, um ihren Willen durchzusetzen, verringert ihre Fähigkeit, ihre Absichten durchzusetzen, und so gibt es immer Orte, an denen ein gewisser Grad an praktischer Freiheit herrscht. Manchmal kann dies Nachteile haben: Das Fehlen einer weit entfernten Macht, die einheitliche Grundsätze und Gesetze durchsetzt, kann Raum für lokale Hegemonen schaffen, um zu stehlen und zu unterdrücken. Aber wenn die zentralisierte Macht schlecht wird, können praktische Einschränkungen von Aufmerksamkeit und Entfernung praktische Grenzen setzen, wie schlimm es werden kann.

Mit KI nicht mehr. Im zwanzigsten Jahrhundert machte die moderne Transporttechnologie die Beschränkungen der Entfernung zu einer viel schwächeren Einschränkung der zentralisierten Macht als zuvor; die großen totalitären Reiche der 1940er Jahre waren teilweise ein Ergebnis davon. Im einundzwanzigsten könnten skalierbare Informationssammlung und Automatisierung bedeuten, dass die Aufmerksamkeit auch nicht mehr eine Einschränkung sein wird. Die Konsequenzen des vollständigen Verschwindens natürlicher Grenzen für die Regierung könnten verheerend sein.

Digitale Autoritarismus wurdeseit einem Jahrzehnt im Aufwind, und die Überwachungstechnologie hat autoritären Regierungen bereits mächtige neue Strategien an die Hand gegeben, um gegen Opposition vorzugehen: lassen Sie die Proteste geschehen, aber dann erkennen und heimlich verfolgendie Teilnehmernachträglich. Allgemeiner gesagt ist meine grundlegende Angst, dass die gleichen Arten von Managementtechnologien, die es OpenAI ermöglichen, über hundert Millionen Kunden zu bedienen, mit 500 Mitarbeiterwird es auch einer politischen Elite von 500 Personen oder sogar einem 5-Personen-Gremium ermöglichen, eine eiserne Faust über ein ganzes Land zu wahren. Mit moderner Überwachung zur Datensammlung und moderner KI zur Interpretation gibt es möglicherweise keinen Ort, an dem man sich verstecken kann.

Es wird schlimmer, wenn wir über die Folgen der KI im Krieg nachdenken. Zitat eines halbberühmter Beitrag über die Philosophie von KI und Krypto von 0xAlpha:

Wenn es keinen Bedarf für politisch-ideologische Arbeit und Kriegsmobilisierung gibt, muss der oberste Kriegsherr nur die Situation selbst betrachten, als ob es ein Schachspiel wäre, und die Gedanken und Emotionen der Bauern/Springer/Türme auf dem Schachbrett vollständig ignorieren. Krieg wird zu einem rein technologischen Spiel.

Darüber hinaus erfordern politisch-ideologische Arbeit und Kriegsmobilisierung eine Rechtfertigung für jeden, Krieg zu führen. Unterschätzen Sie nicht die Bedeutung einer solchen "Rechtfertigung". Es ist seit Tausenden von Jahren eine Einschränkung der Legitimität der Kriege in der menschlichen Gesellschaft. Wer Krieg führen will, muss einen Grund haben, oder zumindest eine oberflächlich vertretbare Entschuldigung. Man könnte argumentieren, dass diese Einschränkung so schwach ist, weil dies in vielen Fällen nicht mehr als eine Ausrede war. Zum Beispiel sollten einige (wenn nicht alle) der Kreuzzüge wirklich Land besetzen und Reichtümer rauben, aber sie mussten im Namen Gottes geschehen, selbst wenn die Stadt, die ausgeraubt wurde, Gottes Konstantinopel war. Aber auch ein schwacher Constraint ist immer noch ein Constraint! Allein dieses kleine Entschuldigungserfordernis hindert die Kriegsmacher daran, bei der Erreichung ihrer Ziele völlig skrupellos zu sein. Selbst ein Übel wie Hitler konnte nicht einfach auf Anhieb einen Krieg vom Zaun brechen – er musste erst jahrelang versuchen, die deutsche Nation davon zu überzeugen, für den Lebensraum der edlen arischen Rasse zu kämpfen.

Heute dient der "Mensch im Prozess" als wichtige Kontrolle über die Macht eines Diktators, Kriege zu beginnen oder seine Bürger intern zu unterdrücken. Menschen im Prozess haben verhindertnuklearKriege, erlaubte die Öffnung der Berliner Mauer, und Leben während gerettetGräueltatenwiedie Holocaust. Wenn Armeen Roboter sind, verschwindet diese Kontrolle vollständig. Ein Diktator könnte um 22 Uhr betrunken werden, um 23 Uhr wütend über Leute sein, die gemein zu ihnen auf Twitter sind, und eine robotergesteuerte Invasionsflotte könnte die Grenze überschreiten, um vor Mitternacht Höllenfeuer über die Zivilbevölkerung und Infrastruktur einer benachbarten Nation regnen zu lassen.

Und anders als in früheren Epochen, in denen es immer eine entfernte Ecke gibt, in der der Himmel hoch ist und der Kaiser weit weg ist, in der Gegner eines Regimes sich neu formieren und verstecken konnten und schließlich einen Weg fanden, um die Dinge zu verbessern, könnte ein totalitäres Regime im 21. Jahrhundert möglicherweise genügend Überwachung und Kontrolle über die Welt aufrechterhalten, um für immer 'eingesperrt' zu bleiben.

d/acc: Defensive (oder Dezentralisierung oder differentielle) Beschleunigung

In den letzten Monaten hat die „e/acc“ („effektive Beschleunigungsbewegung“) viel Schwung gewonnen. Zusammengefasst von "Beff Jezos" hier, e/acc geht im Wesentlichen um die Wertschätzung der enormen Vorteile des technologischen Fortschritts und den Wunsch, diesen Trend zu beschleunigen, um diese Vorteile schneller zu realisieren.

Ich finde mich in vielen Zusammenhängen sympathisch gegenüber der E/Acc-Perspektive. Es gibt viele Beweise dafür, dass die FDA ist viel zu konservativin seiner Bereitschaft, die Genehmigung von Medikamenten zu verzögern oder zu blockieren, und die Bioethik im Allgemeinen scheint viel zu oft nach dem Grundsatz zu handeln, dass "20 Menschen, die bei einem fehlgeschlagenen medizinischen Experiment ums Leben kommen, eine Tragödie sind, aber 200.000 Menschen, die durch verzögerte lebensrettende Behandlungen sterben, eine Statistik sind". Die Verzögerungen bei der GenehmigungCovid-Tests und Impfstoffe, und Malariaimpfstoffe, scheinen dies weiter zu bestätigen. Allerdings ist es möglich, diese Perspektive zu weit zu führen.

Neben meinen KI-bezogenen Bedenken fühle ich mich besonders zwiespältig über die e/acc BegeisterungfürMilitärtechnologieIm aktuellen Kontext im Jahr 2023, in dem diese Technologie von den Vereinigten Staaten entwickelt wird und sofort zur Verteidigung der Ukraine eingesetzt wird, ist es leicht zu erkennen, wie sie eine positive Kraft sein kann. Bei genauerer Betrachtung scheint jedoch die Begeisterung für moderne Militärtechnologie als positive Kraft den Glauben zu erfordern, dass die dominierende technologische Macht in den meisten Konflikten, sowohl jetzt als auch in Zukunft, zuverlässig zu den Guten gehören wird: Militärtechnologie ist gut, weil sie von Amerika entwickelt und kontrolliert wird, und Amerika ist gut. Erfordert es, ein Anhänger Amerikas zu sein, alles auf die gegenwärtige und zukünftige Moral der Regierung und den zukünftigen Erfolg des Landes zu setzen?

Andererseits sehe ich jedoch die Notwendigkeit neuer Ansätze, um darüber nachzudenken, wie man diese Risiken reduzieren kann. The OpenAI Governance-Strukturist ein gutes Beispiel: Es scheint wie ein gut gemeinter Versuch zu sein, das Bedürfnis, Gewinne zu erzielen, um Investoren zufriedenzustellen, die das anfängliche Kapital bereitstellen, mit dem Wunsch nach einer Kontrolle auszugleichen, um gegen Maßnahmen vorzugehen, die das Risiko bergen, dass OpenAI die Welt explodieren lässt. In der Praxis jedoch, Versuch, Sam Altman zu entlassenmacht die Struktur wie ein vollständiges Versagen erscheinen: Sie zentralisierte die Macht in einem undemokratischen und nicht rechenschaftspflichtigen Gremium von fünf Personen, die wichtige Entscheidungen auf der Grundlage geheimer Informationen trafen und sich weigerten, Einzelheiten über ihre Argumentation preiszugebenbis die Mitarbeiter mit dem Aufhören drohtenin Massen. Auf irgendwie inkompetente Weise spielte der Vorstand der Non-Profit-Organisation ihre Karten so schlecht, dass die Mitarbeiter des Unternehmens erstelltanspontane faktische Union… auf die Seite des Milliardärs-CEO gegen sie zu stellen.

Überall sehe ich viel zu viele Pläne, um die Welt zu retten, die darin bestehen, einer kleinen Gruppe von Menschen extreme und undurchsichtige Macht zu geben und zu hoffen, dass sie sie weise nutzen. Und so finde ich mich zu einer anderen Philosophie hingezogen, die detaillierte Ideen darüber hat, wie man mit Risiken umgeht, aber darauf abzielt, eine demokratischere Welt zu schaffen und auf Zentralisierung als die Standardlösung für unsere Probleme zu verzichten. Diese Philosophie geht auch viel weiter als KI und ich würde behaupten, dass sie auch in Welten, in denen die Bedenken hinsichtlich KI-Risiken sich als weitgehend unbegründet erweisen, gut funktioniert. Ich werde diese Philosophie unter dem Namen d/acc ansprechen.

dacc3

Das "d" hier kann für viele Dinge stehen; insbesondere Verteidigung, Dezentralisierung, Demokratie und Differenz. Zuerst denken wir an Verteidigung, und dann können wir sehen, wie sich dies in die anderen Interpretationen einfügt.

Verteidigungsfreundliche Welten fördern eine gesunde und demokratische Regierungsführung

Ein Rahmen, um über die makroökonomischen Folgen von Technologie nachzudenken, besteht darin, das Gleichgewicht zwischen Verteidigung und Angriff zu betrachten. Einige Technologien erleichtern es, andere anzugreifen, im weiteren Sinne des Begriffs: Dinge zu tun, die gegen ihre Interessen gehen, auf die sie reagieren müssen. Andere erleichtern die Verteidigung, sogar ohne auf große zentralisierte Akteure angewiesen zu sein.

Eine welt, die die verteidigung begünstigt, ist eine bessere welt, aus vielen gründen. Erstens natürlich der direkte nutzen der sicherheit: weniger menschen sterben, weniger wirtschaftswert wird zerstört, weniger zeit wird mit konflikten verschwendet. Was jedoch weniger geschätzt wird, ist, dass eine verteidigungsfreundliche welt es gesünderen, offeneren und freiheitsliebenderen formen der regierungsführung leichter macht zu gedeihen.

Ein offensichtliches Beispiel hierfür ist die Schweiz. Die Schweiz wird oft als das dem realen Leben am nächsten kommende klassisch-liberale Regierungsutopie angesehen. Große Machtfülle wird auf Provinzen (sogenannte "Kantone") übertragen, wichtige Entscheidungen werden getroffen durch Referenden beschlossen, und viele Einheimische weiß nicht einmal, wer der Präsident ist. Wie kann ein Land wie dieses überleben extrem herausforderndpolitischDruck? Teil des Antwortistausgezeichnete politische Strategie, aber der andere Hauptteil ist sehr verteidigungsfreundliche Geografie) in Form seiner bergigen Gelände.

Die Flagge ist ein großes Plus. Aber das sind auch die Berge.

Anarchistische Gesellschaften in Zomia, die in James C Scotts neuem Buch berühmt porträtiert wurden "Die Kunst, nicht regiert zu werden", sind ein weiteres Beispiel: Sie bewahren ihre Freiheit und Unabhängigkeit größtenteils dank ihres bergigen Geländes. Währenddessen sind die eurasischen Steppen das genaue Gegenteil einer Governance-UtopieSarah Paine's Darstellung von maritime versus continental powersmacht ähnliche Punkte, konzentriert sich jedoch auf Wasser als Verteidigungssperre anstelle von Bergen. Tatsächlich scheint die Kombination aus der Leichtigkeit des freiwilligen Handels und der Schwierigkeit einer unfreiwilligen Invasion, die sowohl für die Schweiz als auch für die Inselstaaten gemeinsam ist, ideal für menschliches Gedeihen zu sein.

Ich entdeckte ein verwandtes Phänomen, als ich Quadratic-Funding-Experimente innerhalb des Ethereum-Ökosystems beriet: speziell das Gitcoin Grants Finanzierungsrunden. In Runde 4, als ein Mini-Skandal entstand, als einige der am besten verdienenden Empfänger Twitter-Influencer waren, deren Beiträge von einigen als positiv und von anderen als negativ angesehen werden. Meine eigene Interpretation dieses Phänomens war, dass es ein Ungleichgewicht gibt: quadratische Finanzierungermöglicht es Ihnen, zu signalisieren, dass Sie etwas für ein öffentliches Gut halten, aber es gibt keine Möglichkeit zu signalisieren, dass etwas ein öffentliches Übel ist. Im Extremfall würde ein vollständig neutrales quadratisches Finanzierungssystem beide Seiten eines Krieges finanzieren. Und so für Runde 5, Ich schlug vor, dass Gitcoin negative Beiträge einschließen sollte: Sie zahlen 1 $, um den Betrag zu verringern, den ein bestimmtes Projekt erhält (und ihn implizit auf alle anderen Projekte umzuverteilen). Das Ergebnis: VielevonMenschengehasstes.

Eines der vielen Internet-Memes, die nach Runde 5 kursierten.

Dies schien mir ein Mikrokosmos eines größeren Musters zu sein: Die Schaffung dezentraler Governance-Mechanismen zur Bewältigung negativer Externalitäten ist sozial ein sehr schwerwiegendes Problem. Es gibt einen Grund, warum das Standardbeispiel für fehlgeschlagene dezentrale Governance Mob-Justiz ist.etwas über die menschliche Psychologiewas das Reagieren auf Negatives viel schwieriger und viel wahrscheinlicher macht, dass es sehr schief geht, als das Reagieren auf Positives. Und das ist ein Grund, warum selbst in ansonsten sehr demokratischen Organisationen Entscheidungen darüber, wie auf Negatives reagiert werden soll, oft einem zentralisierten Gremium überlassen werden.

In vielen Fällen ist dieses Dilemma einer der tiefen Gründe, warum das Konzept der "Freiheit" so wertvoll ist. Wenn jemand etwas sagt, das Sie beleidigt, oder einen Lebensstil hat, den Sie ekelhaft finden, ist der Schmerz und Ekel, den Sie empfinden, real, und Sie finden es möglicherweise sogar weniger schlimm, physisch geschlagen zu werden, als solchen Dingen ausgesetzt zu sein. Aber sich darauf zu einigen, welche Arten von Beleidigungen und Ekel gesellschaftlich handlungsfähig sind, kann weitaus mehr Kosten und Gefahren mit sich bringen als uns einfach daran zu erinnern, dass bestimmte Arten von Freaks und Idioten der Preis sind, den wir für das Leben in einer freien Gesellschaft zahlen.

Zu anderen Zeiten ist jedoch der Ansatz “die Zähne zusammenbeißen und es ertragen” unrealistisch. Und in solchen Fällen ist eine andere Antwort, die manchmal lohnenswert ist, die defensive Technologie. Je sicherer das Internet ist, desto weniger müssen wir die Privatsphäre der Menschen verletzen und zwielichtige internationale diplomatische Taktiken anwenden, um jeden einzelnen Hacker zu verfolgen. Je mehr wir können aufbauen personalisierte Tools zum Blockieren von Personen auf Twitter, In-Browser-Tools zur Erkennung von Betrugsfällenundkollektive Werkzeuge zur Unterscheidung von FehlinformationenundWahrheit, desto weniger müssen wir über Zensur streiten. Je schneller wir Impfstoffe herstellen können, desto weniger müssen wir Menschen verfolgen, weil sie Superspreader sind. Solche Lösungen funktionieren nicht in allen Bereichen - wir wollen sicherlich keine Welt, in der jeder buchstäblich Körperschutz tragen muss - aber in Bereichen, in denen wir Technologie entwickeln können, um die Welt verteidigungsfreundlicher zu gestalten, liegt ein enormer Wert darin.

Diese Kernidee, dass einige Technologien verteidigungsfreundlich sind und gefördert werden sollten, während andere Technologien angriffsfreundlich sind und entmutigt werden sollten, hat ihre Wurzeln in der Literatur des effektiven Altruismus unter einem anderen Namen: differenzierte Technologieentwicklung. Es gibt eine guteDarlegung dieses Prinzips von Forschern der Universität Oxfordab 2022:

Abbildung 1: Mechanismen, durch die die differenzierte Technologieentwicklung negative gesellschaftliche Auswirkungen reduzieren kann.

Es wird zwangsläufig Unvollkommenheiten bei der Klassifizierung von Technologien als offensive, defensive oder neutrale geben. Ähnlich wie bei “Freiheit”, wo man darüber diskutieren kann, ob sozialdemokratische Regierungspolitiken die Freiheit verringern, indem sie hohe Steuern erheben und Arbeitgeber zwingen oder die Freiheit erhöhen, indem sie die Notwendigkeit des durchschnittlichen Menschen verringern, sich um viele Arten von Risiken zu sorgen, gibt es auch bei “Verteidigung” einige Technologien, die auf beiden Seiten des Spektrums liegen könnten. Atomwaffen bevorzugen die Offensive, aber Kernenergie ist Menschliches-Gedeihen-begünstigendund Angriff-Verteidigung-Neutralität. Unterschiedliche Technologien können in unterschiedlichen Zeithorizonten unterschiedliche Rollen spielen. Aber ähnlich wie bei „Freiheit“ (oder „Gleichheit“ oder „Rechtsstaatlichkeit“) ist die Ambiguität an den Rändern weniger ein Argument gegen das Prinzip als vielmehr eine Gelegenheit, seine Feinheiten besser zu verstehen.

Nun, lassen Sie uns sehen, wie wir dieses Prinzip auf ein umfassenderes Weltbild anwenden können. Wir können an defensive Technologie denken, wie andere Technologie, als aufgeteilt in zwei Sphären: die Welt der Atome und die Welt der Bits. Die Welt der Atome wiederum kann in Mikro (d. h. Biologie, später Nanotechnologie) und Makro (d. h. das, was wir konventionell als „Verteidigung“ betrachten, aber auch widerstandsfähige physische Infrastruktur) aufgeteilt werden. Die Welt der Bits werde ich entlang einer anderen Achse aufteilen: wie schwer ist es, grundsätzlich zu vereinbaren, wer der Angreifer ist? Manchmal ist es einfach; das nenne ich Cyberabwehr. Zu anderen Zeiten ist es schwieriger; das nenne ich Informationsabwehr.

Makro-Physische Verteidigung

Die am meisten unterschätzte defensive Technologie im Makrobereich ist noch nicht einmalEisendomen(einschließlichUkraines neues System) und anderen Anti-Tech- und Anti-Raketen-Militärhardware, sondern vielmehr widerstandsfähige physische Infrastruktur. Die Mehrheit der Todesfälle in einem Atomkrieg dürfte von Lieferkettenstörungen, anstatt der anfänglichen Strahlung und Explosion, und internetbasierte Lösungen mit geringer Infrastruktur wie Starlink waren entscheidend in Aufrechterhaltung der Konnektivität der Ukraineseit anderthalb Jahren.

Den Aufbau von Werkzeugen zur Hilfe für Menschen, um zu überleben und sogar komfortabel unabhängig oder halbunabhängig von langen internationalen Lieferketten zu leben, scheint eine wertvolle defensive Technologie zu sein, und eine mit geringem Risiko, sich als nützlich für Angriffe herauszustellen.

Die Suche nach die Menschheit zu einer multiplanetaren Zivilisation zu machenKann auch aus einer d/acc-Perspektive betrachtet werden: Wenn zumindest einige von uns selbstständig auf anderen Planeten leben, kann dies unsere Widerstandsfähigkeit gegen etwas Schreckliches, das auf der Erde passiert, erhöhen. Selbst wenn die vollständige Vision vorerst nicht realisierbar ist, könnten die Formen des selbstständigen Lebens, die entwickelt werden müssen, um ein solches Projekt möglich zu machen, auch dazu beitragen, unsere Zivilisationswiderstandsfähigkeit auf der Erde zu verbessern.

Mikrophysikalische Verteidigung (auch Bio)

Besonders aufgrund seiner Langzeitgesundheitsauswirkungen, Covid continues to be a SorgeAber Covid ist bei weitem nicht die letzte Pandemie, der wir gegenüberstehen werden; es gibt viele Aspekte der modernen Welt, die es wahrscheinlich machen, dass bald weitere Pandemien kommen werden:

Eine höhere Bevölkerungsdichte macht es viel einfacher für luftübertragene Viren und andere Krankheitserreger, sich zu verbreiten. Epidemische Krankheiten sind in der menschlichen Geschichte relativ neu und die meisten begannen mit der Urbanisierung nur vor wenigen tausend Jahren. Laufende schnelle Urbanisierungbedeutet, dass die Bevölkerungsdichten in den nächsten fünf Jahrzehnten weiter zunehmen werden.
Erhöhtes Reisen mit Luft bedeutet, dass luftgetragene Krankheitserreger sehr schnell weltweit verbreitet werden. Dass Menschen schnell reicher werden, bedeutet wahrscheinlich, dass das Reisen mit Luft erheblich weiter erhöhenüber die nächsten fünf Jahrzehnte hinweg; Modellierung der Komplexität legt nahe, dass sogar kleine Anstiegekann drastische Auswirkungen haben. Der Klimawandel könnte dieses Risiko noch weiter erhöhen.
Tierzüchtung und Massentierhaltung sind wesentliche Risikofaktoren. Masern Wahrscheinlich hat er sich vor weniger als 3000 Jahren aus einem Kuhvirus entwickelt. Heutige Massentierhaltungzüchten auch neue Stämme der Influenza (sowie Antibiotikaresistenz anheizen, mit Konsequenzen für menschliche angeborene Immunität).
Modernes Bio-Engineering macht es einfacher, neue und virulentere Krankheitserreger zu erzeugen. COVID könnte oder auch nicht durchgesickert seinaus einem Labor, das absichtlich Forschung zur „Funktionsgewinnung“ betreibt. Unabhängig davon, Laborunfälle passieren die ganze Zeit, und die Werkzeuge werden rapide verbessert, um es einfacher zu machen, absichtlich extrem tödliche Viren oder sogar Prionen (Zombie-ProteineKünstliche Plagen sind besonders besorgniserregend, auch weil Im Gegensatz zu Atomwaffen, sind sie nicht zuordenbar: Sie können einen Virus freisetzen, ohne dass jemand sagen kann, wer ihn geschaffen hat. Es ist jetzt möglich, eine genetische Sequenz zu entwerfen und sie an eine Nasslaborfür die Synthese und innerhalb von fünf Tagen an Sie versendet.

Dies ist ein Bereich, in dem CryptoReliefundBalvi, zwei Organisationen wurden als Ergebnis eines großen zufälligen Vorfalls gegründet und finanziert Geldregen an Shiba Inu Coinsim Jahr 2021 sehr aktiv gewesen. CryptoRelief hat sich zunächst auf die Bewältigung der unmittelbaren Krise konzentriert und in letzter Zeit ein langfristiges medizinisches Forschungssystem in Indien aufgebaut, während Balvi sich auf ambitionierte Projekte zur Verbesserung unserer Fähigkeit zur Erkennung, Vorbeugung und Behandlung von Covid und anderen Luftwegserkrankungen konzentriert. ++Balvi hat darauf bestanden, dass die von ihm finanzierten Projekte Open Source sein müssen++. Inspiriert vondie Wasseringenieur-Bewegung des 19. Jahrhunderts, die Cholera besiegteund andere wasserbürtige Pathogene hat es Projekte auf der gesamten Technologieskala finanziert, die die Welt standardmäßig widerstandsfähiger gegen luftgetragene Pathogene machen können (siehe: Update 1undAktualisierung 2), einschließlich:

Far-UVCBestrahlungForschung und Entwicklung
Luftfilterung und Qualitätsüberwachung in Indien, Sri Lanka, die Vereinigten Staatenund anderswo, und Luftqualitätsüberwachung
Ausrüstung für günstige und effektivedezentralisierte Luftqualitätstests
Forschung zu den Ursachen von Long Covid und möglichen Behandlungsoptionen (die Hauptursache könnte seinunkompliziertaberMechanismen klärenund die Behandlung zu finden ist schwieriger)
Impfstoffe (z. B. RaDVaC, PopVax) und Impfstoffverletzungsforschung
Eine Reihe völlig neuartiger nicht-invasiver medizinischer Werkzeuge
Früherkennung von Epidemien mithilfe der Analyse von Open-Source-Daten (z. B. EPIWATCH)
Testen, einschließlich sehr preiswerter molekularer Schnelltests
Biosicherheitsgerechte Masken für den Fall, dass andere Ansätze versagen

Andere vielversprechende Interessengebiete sind Abwasserüberwachung von Krankheitserregern, Verbesserung der Filterung und Belüftung in Gebäuden, und besseres Verständnis und Beseitigung Risiken durch schlechte Luftqualität.

Es gibt eine Gelegenheit zu eine Welt aufbauenDas ist standardmäßig viel besser gegen luftübertragene Pandemien, sowohl natürliche als auch künstliche, geschützt. Diese Welt würde über eine hoch optimierte Pipeline verfügen, in der wir von einem Pandemiebeginn über die automatische Erkennung bis hin dazu gelangen können, dass Menschen weltweit Zugang zu gezielten Maßnahmen haben.lokal herstellbare und überprüfbare Open-Source-Impfstoffe oder andere Prophylaktika, verwaltet über vernebelungoderNasenspray(Bedeutung: selbstverabreichbar bei Bedarf und ohne Nadeln erforderlich), alles innerhalb eines Monats. In der Zwischenzeit würde eine deutlich bessere Luftqualität die Ausbreitungsrate drastisch reduzieren und verhindern, dass viele Pandemien überhaupt entstehen.

Stellen Sie sich eine Zukunft vor, in der man nicht auf den Vorschlaghammer sozialen Zwangs zurückgreifen muss - keine Mandate und Schlimmeres, und kein Risiko von schlecht konzipierte und umgesetzte Anordnungen, die möglicherweise die Dinge noch verschlimmern- denn die Infrastruktur des öffentlichen Gesundheitswesens ist in das Gefüge der Zivilisation eingewoben. Diese Welten sind möglich, und eine mittlere Finanzierung in die biologische Verteidigung könnte es möglich machen. Die Arbeit würde noch reibungsloser verlaufen, wenn Entwicklungen offen, kostenlos für Benutzer und als öffentliche Güter geschützt wären.

Cyberabwehr, Blockchains und Kryptographie

Es ist allgemein unter Sicherheitsfachleuten bekannt, dass der aktuelle Zustand der Computersicherheit ziemlich schrecklich ist. Das gesagt, ist es einfach, den Fortschritt zu unterschätzen, der gemacht wurde. Hunderte Milliarden Dollar an Kryptowährungen stehen anonymen Dieben zur Verfügung, die in die Geldbörsen der Benutzer hacken können, und während viel mehr geht verloren oder wird gestohlenals ich möchte, tatsächlich ist es auch eine Tatsache, dass die meisten davon seit über einem Jahrzehnt ungestohlen geblieben sind. In letzter Zeit hat es Verbesserungen gegeben:

Vertrauenswürdige Hardware-Chips in den Telefonen der Benutzer, und schaffen so ein deutlich kleineres Hochsicherheits-Betriebssystem innerhalb des Telefons, das selbst dann geschützt bleiben kann, wenn der Rest des Telefons gehackt wird. Neben vielen anderen Anwendungsfällen werden diese Chips zunehmend als Möglichkeit untersucht, Sicherere Krypto-Wallets.
Browser als das de-facto Betriebssystem. In den letzten zehn Jahren hat sich ein leiser Wandel von herunterladbaren Anwendungen zu In-Browser-Anwendungen vollzogen. Dies wurde weitgehend ermöglicht durch WebAssembly (WASM)Selbst Adobe Photoshop, das lange Zeit als einer der Hauptgründe galt, warum viele Menschen Linux praktisch nicht nutzen können, weil es notwendig ist und nicht mit Linux kompatibel ist, ist jetzt Linux-freundlich, da es im Browser läuft. Dies ist auch ein großer Sicherheitsvorteil: während Browser haben tatsächlich Schwächen, im Allgemeinen verfügen sie über viel mehr Sandbox-Funktionen als installierte Anwendungen: Apps können nicht auf beliebige Dateien auf Ihrem Computer zugreifen.
Gehärtete Betriebssysteme. GrapheneOSfür mobile existiert und ist sehr benutzbar.QubesOSfür Desktop existiert; es ist derzeit zumindest nach meiner Erfahrung etwas weniger benutzerfreundlich als Graphene, aber es verbessert sich.
Versuche, über Passwörter hinauszugehen. Passwörter sind leider schwer zu sichern, weil sie schwer zu merken sind und weil Es ist leicht, sie abzuhörenIn letzter Zeit gibt es eine wachsende Bewegung, um den Schwerpunkt auf Passwörter zu reduzieren und eine Multi-Faktor-Hardware-basierte Authentifizierung zu ermöglichen.tatsächlich arbeiten.

Allerdings hat auch der Mangel an Cybersicherheit in anderen Bereichen zu erheblichen Rückschlägen geführt. Die Notwendigkeit, sich gegen Spam zu schützen, hat dazu geführt, dass E-Mails sehr oligopolistisch in der Praxis, was es sehr schwierig macht, selbst zu hosten oder einen neuen E-Mail-Anbieter zu erstellen. Viele Online-Apps, einschließlich Twitter, fordern Benutzer auf, sich anzumelden, um auf Inhalte zuzugreifen, und blockieren IPs von VPNs, was es schwieriger macht, das Internet auf eine Weise zu nutzen, die die Privatsphäre schützt. Auch die Zentralisierung von Software ist riskant, weil "weaponized interdependence": die Tendenz der modernen Technologie, sich über zentralisierte Engpässe zu leiten, und für die Betreiber dieser Engpässe, diese Macht zu nutzen, um Informationen zu sammeln, Ergebnisse zu manipulieren oder bestimmte Akteure auszuschließen - eine Strategie, die anscheinend sogar derzeit angewendet wirdgegen die Blockchain-Industrie selbst.

Dies sind besorgniserregende Trends, denn sie bedrohen das, was historisch gesehen einer meiner großen Hoffnungen für die Zukunft von Freiheit und Privatsphäre war, trotz schwerwiegender Kompromisse, könnte sich immer noch als hell herausstellen. In seinem Buch "Zukunft unvollkommen", David Friedman sagt voraus, dass wir möglicherweise eine Kompromisszukunft bekommen könnten: Die persönliche Welt würde immer stärker überwacht werden, aber durch Kryptographie würde die Online-Welt ihre Privatsphäre bewahren und sogar verbessern. Leider ist ein solcher Gegentrend, wie wir gesehen haben, keineswegs garantiert.

Hier setze ich meinen eigenen Schwerpunkt auf kryptographische Technologien wie Blockchains und Zero-Knowledge-Beweisekommt herein. Blockchains ermöglichen es uns, wirtschaftliche und soziale Strukturen mit einer „gemeinsamen Festplatte“ zu schaffen, ohne von zentralisierten Akteuren abhängig zu sein. Kryptowährungen ermöglichen es Einzelpersonen, Geld zu sparen und finanzielle Transaktionen durchzuführen, wie sie es vor dem Internet mit Bargeld konnten, ohne von vertrauenswürdigen Dritten abhängig zu sein, die ihre Regeln nach Belieben ändern könnten. Sie können auch als Rückfall-Anti-Sybil-Mechanismus dienen.Angriffe und Spam teuer machenselbst für Benutzer, die ihre Fleischraum-Identität nicht haben oder nicht offenlegen möchten. Kontenabstraktion, und insbesonderesoziale Wiederherstellungsgeldbörsen, kann unsere Krypto-Vermögenswerte schützen und möglicherweise auch zukünftige Vermögenswerte, ohne übermäßig auf zentralisierte Vermittler angewiesen zu sein.

Null-Wissen-Beweise können verwendet werden für Datenschutz, ermöglicht es Benutzern, Dinge über sich selbst zu beweisen, ohne private Informationen preiszugeben. Zum Beispiel, wrap a digitale Reisepass-Signaturin einem ZK-SNARK, um zu beweisen, dass Sie ein einzigartiger Bürger eines bestimmten Landes sind, ohne preiszugeben, welcher Bürger Sie sind. Technologien wie diese können es uns ermöglichen, die Vorteile von Privatsphäre und Anonymität zu wahren - Eigenschaften, die weithin als wichtig erachtet werden.erforderlich für Anwendungen wie Abstimmungen - während Sie immer noch Sicherheitsgarantien erhalten und Spam und schlechte Akteure bekämpfen.

Ein vorgeschlagenes Design für ein ZK Social-Media-System, in dem Moderationsmaßnahmen durchgeführt und Benutzer bestraft werden können, ohne die Identität von jemandem zu kennen.

Zupass, inkubiert bei Zuzalufrüher in diesem Jahr, ist ein ausgezeichnetes Beispiel dafür in der Praxis. Dies ist eine Anwendung, die bereits von Hunderten von Menschen bei Zuzalu und in letzter Zeit von Tausenden von Menschen für Ticketing verwendet wurde Devconnect, das es Ihnen ermöglicht, Tickets, Mitgliedschaften, zu halten,nicht übertragbar) digitale Sammlerstücke und andere Bescheinigungen vorlegen und Dinge über sie alle beweisen, ohne Ihre Privatsphäre zu gefährden. Sie können zum Beispiel nachweisen, dass Sie ein einzigartiger registrierter Bewohner von Zuzalu oder ein Devconnect-Ticketinhaber sind, ohne etwas anderes über Ihre Identität preiszugeben. Diese Nachweise können persönlich, über einen QR-Code oder digital vorgelegt werden, um sich bei Anwendungen wie Zupoll, ein anonymisiertes Wahlsystem, das nur für Bewohner von Zuzalu verfügbar ist.

Diese Technologien sind ein ausgezeichnetes Beispiel für Gate-Prinzipien: Sie ermöglichen es Benutzern und Gemeinschaften, Vertrauenswürdigkeit zu überprüfen, ohne die Privatsphäre zu gefährden, und schützen ihre Sicherheit, ohne sich auf zentralisierte Engpässe zu verlassen, die ihre eigenen Definitionen davon durchsetzen, wer gut und wer böse ist. Sie verbessern die globale Zugänglichkeit, indem sie bessere und fairere Möglichkeiten schaffen, die Sicherheit eines Benutzers oder Dienstes zu schützen, als die heute üblichen Techniken, die beispielsweise die Diskriminierung ganzer Länder, die als unzuverlässig gelten, beinhalten. Dies sind sehr leistungsstarke Primitiven, die notwendig sein könnten, wenn wir eine dezentrale Vision der Informationssicherheit im 21. Jahrhundert bewahren wollen. Die Arbeit an defensiven Technologien für den Cyberspace im weiteren Sinne kann das Internet auf sehr wichtige Weise offener, sicherer und freier machen.

Info-Verteidigung

Cyber-Verteidigung, wie ich sie beschrieben habe, handelt von Situationen, in denen es für vernünftige Menschen einfach ist, sich darauf zu einigen, wer der Angreifer ist. Wenn jemand versucht, in Ihre Brieftasche zu hacken, ist es leicht zuzustimmen, dass der Hacker der Bösewicht ist. Wenn jemand versucht, eine DoS-Attacke auf eine Website durchzuführen, ist es einfach zuzustimmen, dass sie bösartig sind und moralisch nicht mit einem regulären Benutzer übereinstimmen, der versucht, zu lesen, was auf der Website steht. Es gibt andere Situationen, in denen die Grenzen verschwommener sind. Es sind die Werkzeuge zur Verbesserung unserer Verteidigung in diesen Situationen, die ich als „Informationsverteidigung“ bezeichne.

Nehmen wir zum Beispiel die Faktenprüfung (auch bekannt als „Verhinderung von „Desinformation“). Ich bin ein großer Fan von Community Notes, das viel dazu beigetragen hat, Benutzern zu helfen, Wahrheiten und Falschheiten in dem zu identifizieren, was andere Benutzer twittern. Community Notes verwendet einen neuen Algorithmus, der nicht die beliebtesten Notizen hervorhebt, sondern die Notizen, die von Benutzern über das politische Spektrum hinweg am meisten befürwortet werden.

Community Notes in Aktion.

Ich bin auch ein Fan von Vorhersagemärkten, die helfen können, die Bedeutung von Ereignissen in Echtzeit zu identifizieren, bevor der Staub sich legt und Konsens darüber herrscht, in welche Richtung es geht.Polymarkt auf Sam Altmanist sehr hilfreich, um eine nützliche Zusammenfassung der letztendlichen Konsequenzen von stündlich stattfindenden Enthüllungen und Verhandlungen zu geben, die dringend benötigten Kontext für Personen bereitzustellen, die nur die einzelnen Nachrichten sehen und die Bedeutung jeder einzelnen nicht verstehen.

Prognosemärkte sind oft fehlerhaft. Aber Twitter-Influencer, die bereit sind, selbstbewusst auszudrücken, was sie glauben, dass in den nächsten Jahren passieren wird, sind oft noch fehlerhafter. Es gibt immer noch Raum, Prognosemärkte viel weiter zu verbessern. Ein wichtiger praktischer Fehler von Prognosemärkten ist beispielsweise ihr geringes Volumen bei allen außer den bekanntesten Ereignissen; eine natürliche Richtung, um dieses Problem zu lösen, wäre Prognosemärkte zu haben, die von KIs gespielt werden.

Im Blockchain-Bereich gibt es eine bestimmte Art von Informationsverteidigung, von der ich denke, dass wir viel mehr davon brauchen. Insbesondere sollten Wallets viel bestimmter und aktiver sein, um Benutzern zu helfen, die Bedeutung von Dingen zu bestimmen, die sie unterzeichnen, und sie vor Betrug und Scams zu schützen. Dies ist ein Zwischenfall: Was ein Scam ist und was nicht, ist weniger subjektiv als Perspektiven zu kontroversen sozialen Ereignissen, aber subjektiver als legitime Benutzer von DoS-Attacken oder Hackern zu unterscheiden. Metamask hat bereits eine Betrugsdatenbank und blockiert Benutzer automatisch, die betrügerische Websites besuchen.

Anwendungen wie Feuersind ein Beispiel dafür, wie man viel weiter gehen kann. Sicherheitssoftware wie diese sollte jedoch nicht etwas sein, das explizite Installationen erfordert; es sollte standardmäßig Teil von Kryptowährungsbrieftaschen oder sogar Browsern sein.

Aufgrund seiner subjektiveren Natur ist die Informationsverteidigung inhärent kollektiver als die Cyberverteidigung: Sie müssen sich irgendwie in eine große und sophisticated Gruppe von Menschen einklinken, um zu identifizieren, was wahr oder falsch sein könnte, und welche Art von Anwendung ein betrügerisches Ponzi ist. Es gibt eine Möglichkeit für Entwickler, bei der Entwicklung einer effektiven Informationsverteidigung viel weiter zu gehen und bestehende Formen der Informationsverteidigung zu verstärken. Etwas Ähnliches wie Community Notes könnte in Browser integriert werden und nicht nur soziale Medienplattformen, sondern auch das gesamte Internet abdecken.

Soziale Technologie jenseits der „Verteidigung“-Rahmung

In gewissem Maße kann mir zu Recht vorgeworfen werden, dass ich einige dieser Informationstechnologien als „Verteidigung“ bezeichne. Immerhin geht es bei Verteidigung darum, gut gemeinte Akteure vor böswilligen Akteuren (oder in einigen Fällen vor der Natur) zu schützen. Einige dieser sozialen Technologien hingegen sollen gut gemeinte Akteure dabei unterstützen, einen Konsens zu bilden.

Ein gutes Beispiel dafür ist pol.is, das einen Algorithmus ähnlich wie Gemeinschaftsnotizen verwendet (und der Gemeinschaftsnotizen vorausgeht), um Gemeinschaften zu helfen, Punkte der Übereinstimmung zwischen Sub-Stämmen zu identifizieren, die sich ansonsten in vielerlei Hinsicht widersprechen.Viewpoints.xyzwurde von pol.is inspiriert und hat einen ähnlichen Geist:

Technologien wie diese könnten verwendet werden, um eine dezentralisierte Governance über umstrittene Entscheidungen zu ermöglichen. Auch hier sind Blockchain-Communities ein guter Testfall dafür, und ein Ort, an dem solche Algorithmen bereits wertvoll gezeigt haben. Im Allgemeinen haben Entscheidungen darüber, welche Verbesserungen (“EIPs„) um Änderungen am Ethereum-Protokoll vorzunehmen, die von einer recht kleinen Gruppe in sogenannten „Meetings“ vorgenommen werden.Alle Kernentwickler-AnrufeFür äußerst technische Entscheidungen, bei denen die meisten Gemeindemitglieder keine starken Gefühle haben, funktioniert dies recht gut. Bei folgenreicheren Entscheidungen, die die Protokollökonomie oder grundlegendere Werte wie Unveränderlichkeit und Resistenz gegen Zensur betreffen, reicht dies oft nicht aus. Zurück im Jahr 2016-17, als eine Reihe umstrittener Entscheidungen zur Implementierung des DAO Gabel, Reduzierung der Ausgabe und (nicht)Entsperren des Parity-Wallets, Tools wie Carbonvote sowie Abstimmungen in sozialen Medien halfen der Community und den Entwicklern zu erkennen, in welche Richtung die Mehrheit der Community-Meinung tendierte.

Carbonvote über die DAO-Gabelung.

Carbonvote hatte seine Mängel: Es verließ sich auf ETH-Bestände, um zu bestimmen, wer Mitglied der Ethereum-Community war, wodurch das Ergebnis von einigen wohlhabenden ETH-Inhabern („Walen“) dominiert wurde. Mit modernen Tools könnten wir jedoch eine viel bessere Carbonvote machen, indem wir mehrere Signale wie POAPs, Zupass-Stempel, Gitcoin Pässe, Protocol Guild Mitgliedschaften, sowie ETH (oder sogar solo-gestakten ETH) Bestände, um die Zugehörigkeit zur Gemeinschaft zu bewerten.

Werkzeuge wie diese könnten von jeder Gemeinschaft genutzt werden, um qualitativ hochwertigere Entscheidungen zu treffen, Gemeinsamkeiten zu finden, (physische oder digitale) Migrationen zu koordinieren oder eine Reihe anderer Dinge zu tun, ohne sich auf undurchsichtige zentrale Führung zu verlassen. Dies ist nicht per se eine Verteidigungsbeschleunigung, aber es kann sicherlich als Demokratiebeschleunigung bezeichnet werden. Solche Werkzeuge könnten sogar verwendet werden, um die Governance der Schlüsselakteure und Institutionen im Bereich KI zu verbessern und zu demokratisieren.

Also, welche Wege gibt es für Superintelligenz?

Das oben Gesagte ist alles gut und schön und könnte die Welt im nächsten Jahrhundert zu einem viel harmonischeren, sichereren und freieren Ort machen. Es adressiert jedoch noch nicht das große Elefant im Raum: superintelligente KI.

Der Standardweg, der von vielen vorgeschlagen wird, die sich um KI sorgen, führt im Wesentlichen zu einer minimalen KI-Weltregierung. Kurzfristige Versionen davon umfassen einen Vorschlag für eine "multinationales AGI-Konsortium"(“MAGIC”). Ein solcher Konsortium, wenn es gegründet wird und es gelingt, seine Ziele der Schaffung einer superintelligenten KI zu erreichen, hätte einen natürlichen Weg, um zu einer de-facto minimalen Weltregierung zu werden. Langfristig gibt es Ideen wie die "entscheidende Handlung"Theorie: Wir erschaffen eine KI, die eine einmalige Handlung ausführt, die die Welt in ein Spiel umgestaltet, bei dem Menschen weiterhin das Sagen haben, aber das Spielfeld auf irgendeine Weise mehr zugunsten der Verteidigung und günstiger für menschliches Gedeihen ist.

Das Hauptpraxisproblem, das ich bisher sehe, ist, dass die Menschen anscheinend keinem spezifischen Governance-Mechanismus wirklich vertrauen, der die Macht hat, so etwas aufzubauen. Dies wird besonders deutlich, wenn man sich die Ergebnisse meiner kürzlichen Twitter-Umfragen ansieht, in denen gefragt wurde, ob die Menschen es bevorzugen würden, dass KI von einer einzigen Entität mit einem Jahrzehnt Vorsprung monopolisiert wird oder ob KI um ein Jahrzehnt für alle verzögert wird:

Die Größe jeder Umfrage ist klein, aber die Umfragen machen dies durch die Einheitlichkeit ihrer Ergebnisse über eine breite Vielfalt von Quellen und Optionen wett. In neun von neun Fällen würde die Mehrheit der Menschen lieber sehen, dass die hochentwickelte KI um ein Jahrzehnt verschoben wird, als von einer einzigen Gruppe monopolisiert zu werden, unabhängig davon, ob es sich um ein Unternehmen, eine Regierung oder einen multinationalen Körper handelt. In sieben von neun Fällen gewann die Verzögerung mit mindestens zwei zu eins. Dies scheint eine wichtige Tatsache zu sein, die jeder verstehen sollte, der sich mit der Regulierung von KI befasst. Aktuelle Ansätze konzentrieren sich darauf, Lizenzierungsmodelle und regulatorische Anforderungen zu schaffen, um die KI-Entwicklung auf eine kleinere Anzahl von Personen zu beschränken, aber diese stoßen auf breiten Widerstand, genau weil die Menschen nicht wollen, dass jemand etwas so Mächtiges monopolisiert. Selbst wenn solche top-down-regulatorischen Vorschläge das Risiko einer Auslöschung verringern, besteht die Gefahr, dass die Wahrscheinlichkeit einer Art von dauerhafter Bindung an zentralisierten Totalitarismus steigt. Paradoxerweise könnten Vereinbarungen, die die Forschung zu extrem fortgeschrittener KI vollständig verbieten (vielleicht mit Ausnahmen für biomedizinische KI), in Kombination mit Maßnahmen wie der Verpflichtung zur Nutzung von Open Source für diejenigen Modelle, die nicht verboten sind, um die Gewinnmotive zu verringern und gleichzeitig die Zugänglichkeit zu verbessern, beliebter sein?

Der Hauptansatz, der von Gegnern der „Lassen Sie uns eine globale Organisation gründen, die KI betreibt und ihre Governance wirklich sehr gut macht“ bevorzugt wird, ist polytheistische KI: absichtlich sicherstellen, dass viele Menschen und Unternehmen viele KIs entwickeln, damit keine von ihnen wesentlich mächtiger wird als die andere. So soll selbst wenn KIs superintelligent werden, ein Machtgleichgewicht erhalten bleiben.

Diese Philosophie ist interessant, aber meine Erfahrung, die versucht, "Polytheismus" innerhalb des Ethereum-Ökosystems sicherzustellen, macht mir Sorgen, dass dies ein grundsätzlich instabiles Gleichgewicht ist. In Ethereum haben wir bewusst versucht, die Dezentralisierung vieler Teile des Systems sicherzustellen: sicherzustellen, dass es keine einzige Codebasis gibt, die kontrolliert mehr als die Hälfte des Proof of Stake Netzwerks, versucht, dem entgegenzuwirken, Dominanz großer Staking-Pools, Verbesserung geografische Dezentralisierung, und so weiter. Im Grunde versucht Ethereum tatsächlich, den alten liberalen Traum einer marktbasierten Gesellschaft umzusetzen, die sozialen Druck anstelle der Regierung als Kartellbehörde nutzt. Bis zu einem gewissen Grad hat dies funktioniert: das Die Dominanz des Prysm-Kundenist von über 70% auf unter 45% gefallen. Aber dies ist kein automatischer Marktprozess: Es ist das Ergebnis menschlicher Absicht und koordinierter Aktion.

Meine Erfahrung innerhalb von Ethereum wird durch Erkenntnisse aus der breiteren Welt als Ganzes gespiegelt, wo sich viele Märkte alsnatürliche MonopoleMit superintelligenten KIs, die unabhängig von Menschen handeln, ist die Situation noch instabiler. Danke an rekursive Selbstverbesserung, die stärkste KI kann sehr schnell vorangehen, und sobald KIs mächtiger sind als Menschen, gibt es keine Kraft, die die Dinge wieder ins Gleichgewicht bringen kann.

Darüber hinaus haben wir selbst dann, wenn wir eine polytheistische Welt von superintelligenten KIs erhalten, die stabil ist, immer noch das andere Problem: dass wir ein Universum bekommen, in dem Menschen Haustiere sind.

Ein glücklicher Weg: Fusion mit den KIs?

Eine andere Option, von der ich in letzter Zeit mehr gehört habe, ist, sich weniger auf KI als etwas Separates von Menschen zu konzentrieren, sondern mehr auf Werkzeuge, die die menschliche Kognition verbessern, anstatt sie zu ersetzen.

Ein nahes Beispiel für etwas, das in diese Richtung geht, sind KI-Zeichenwerkzeuge. Heutzutage haben die prominentesten Werkzeuge zur Erstellung von KI-generierten Bildern nur einen Schritt, bei dem der Mensch seine Eingabe macht, und die KI übernimmt vollständig von dort an. Eine Alternative wäre, sich mehr auf KI-Versionen von Photoshop zu konzentrieren: Tools, bei denen der Künstler oder die KI möglicherweise einen ersten Entwurf eines Bildes erstellt und dann zusammenarbeiten, um ihn mit einem Prozess des Echtzeit-Feedbacks zu verbessern.

Photoshop generative KI-Füllung, 2023.Quelle. Ich habe es ausprobiert, es braucht Zeit, um sich daran zu gewöhnen, aber es funktioniert tatsächlich ziemlich gut!

Eine weitere Richtung in einem ähnlichen Geist ist die Offene Agenturarchitektur, das vorschlägt, die verschiedenen Teile eines KI-„Geistes“ (z. B. Pläne machen, Pläne ausführen, Informationen aus der Außenwelt interpretieren) in separate Komponenten aufzuteilen und vielfältiges menschliches Feedback zwischen diesen Teilen einzuführen.

Bislang klingt das banal und etwas, worüber sich fast jeder einig sein kann, dass es gut wäre, es zu haben. Die Arbeit des Ökonomen Daron Acemoglu hat mit dieser Art von KI-Futurismus jedoch wenig zu tun, sondern sein neues Buch Macht und Fortschrittdeutet darauf hin, mehr von genau diesen Arten von KI sehen zu wollen.

Aber wenn wir diese Idee der Zusammenarbeit zwischen Mensch und KI weiter extrapolieren wollen, gelangen wir zu radikaleren Schlussfolgerungen. Es sei denn, wir schaffen eine Weltregierung, die stark genug ist, um jeden kleinen Personenkreis zu erkennen und zu stoppen, der mit Laptops auf individuellen GPUs hackt, wird irgendwann eine überintelligente KI erstellen - eine, die denken kann, tausendmal schnellerals wir können - und keine Kombination von Menschen, die Werkzeuge mit ihren Händen verwenden, wird in der Lage sein, sich dagegen zu behaupten. Und deshalb müssen wir diese Idee der Zusammenarbeit zwischen Mensch und Computer viel tiefer und weiter verfolgen.

Ein erster natürlicher Schritt ist Gehirn-Computer-SchnittstellenGehirn-Computer-Schnittstellen können den Menschen einen viel direkteren Zugang zu immer leistungsstärkeren Formen der Berechnung und Kognition ermöglichen, wodurch die Zwei-Wege-Kommunikationsschleife zwischen Mensch und Maschine von Sekunden auf Millisekunden reduziert wird. Dies würde auch die „geistige Anstrengung“ erheblich reduzieren, um einen Computer dazu zu bringen, Ihnen beim Sammeln von Fakten, bei der Abgabe von Vorschlägen oder bei der Umsetzung eines Plans zu helfen.

Spätere Phasen eines solchen Fahrplans werden zugegebenermaßen seltsam. Neben Gehirn-Computer-Schnittstellen gibt es verschiedene Wege, um unsere Gehirne direkt durch Innovationen in der Biologie zu verbessern. Ein eventueller weiterer Schritt, der beide Wege vereint, könnte beinhalten das Hochladen unserer Gedankendirekt auf Computern ausgeführt werden. Dies wäre auch die ultimative Möglichkeit zur physischen Sicherheit: Sich vor Schaden zu schützen, wäre nicht mehr das schwierige Problem, sich unweigerlich weichen menschlichen Körper zu schützen, sondern vielmehr ein viel einfacheres Problem, Datensicherungen zu erstellen.

Richtungen wie diese werden manchmal mit Besorgnis aufgenommen, teils, weil sie irreversibel sind, und teils, weil sie mächtigen Menschen mehr Vorteile gegenüber dem Rest von uns verschaffen können. Vor allem Brain-Computer-Interfaces bergen Gefahren – schließlich geht es darum, buchstäblich in den Köpfen der Menschen zu lesen und zu schreiben. Diese Bedenken sind genau der Grund, warum ich denke, dass es ideal wäre, wenn eine führende Rolle auf diesem Weg von einer sicherheitsorientierten Open-Source-Bewegung übernommen würde, anstatt von geschlossenen und proprietären Unternehmen und Risikokapitalfonds. Darüber hinaus sind all diese Probleme bei superintelligenten KIs, die unabhängig vom Menschen arbeiten, schlimmer als bei Augmentierungen, die eng mit dem Menschen verbunden sind. Die Kluft zwischen "enhanced" und "unenhanced" besteht bereits heute aufgrund von Einschränkungen, wer ChatGPT verwenden kann und wer nicht.

Wenn wir eine Zukunft wollen, die sowohl superintelligent als auch "menschlich" ist, eine, in der Menschen nicht nur Haustiere sind, sondern tatsächlich eine bedeutungsvolle Handlungsfähigkeit über die Welt behalten, dann fühlt es sich so an, als wäre so etwas die natürlichste Option. Es gibt auch gute Argumente dafür, warum dies ein sicherer KI-Ausrichtungsweg sein könnte: indem wir menschliches Feedback bei jedem Schritt der Entscheidungsfindung einbeziehen, reduzieren wir den Anreiz, die Verantwortung für die Hoch-Level-Planung auf die KI selbst zu übertragen, und verringern somit die Chance, dass die KI etwas völlig nicht mit den Werten der Menschheit vereinbares von sich aus tut.

Ein weiteres Argument für diese Richtung ist, dass sie möglicherweise gesellschaftlich akzeptabler ist als einfach nur zu schreien “AI pausierenohne eine ergänzende Nachricht, die einen alternativen Weg nach vorne aufzeigt. Es wird einen philosophischen Wandel von der derzeitigen Mentalität erfordern, dass technologische Fortschritte, die Menschen berühren, gefährlich sind, aber Fortschritte, die von Menschen getrennt sind, per Default sicher sind. Aber es hat einen großen gegenläufigen Nutzen: es gibt Entwicklern etwas zu tun. Heute scheint die Hauptbotschaft der KI-Sicherheitsbewegung an KI-Entwickler zu sein " Du solltest einfach aufhören„Man kann Arbeiten an Ausrichtungsforschung, aber heute fehlen wirtschaftliche Anreize. Im Vergleich dazu ist die gängige e/acc Nachricht "du bist bereits ein Held, so wie du bist" verständlicherweise äußerst ansprechend. Eine d/acc Nachricht, die besagt "du solltest bauen und rentable Dinge schaffen, aber viel selektiver und absichtsvoller sein, um sicherzustellen, dass du Dinge baust, die dir und der Menschheit helfen, gedeihen könnte ein Gewinner sein.

Ist d/acc mit Ihrer bestehenden Philosophie kompatibel?

Wenn Sie ein e/acc sind, dann ist d/acc eine Unterart von e/acc - nur eine, die viel selektiver und absichtlicher ist.
Wenn Sie sind effektiver Altruist, dann ist d/acc eine Neupositionierung der effektiven-altruistischen Idee von Differenzialtechnologieentwicklung, allerdings mit einem stärkeren Schwerpunkt auf liberalen und demokratischen Werten.
Wenn Sie ein Libertarian sind, dann ist d/acc eine Unterart des Techno-Libertarianismus, allerdings eine pragmatischere, die kritischer gegenüber "der Techno-Kapital-Maschine" ist und bereit ist, staatliche Interventionen heute zu akzeptieren (zumindest, wenn kulturelle Interventionen nicht funktionieren), um morgen viel schlimmere Unfreiheit zu verhindern.
Wenn Sie ein Pluralist sind, im Glen Weyls Verständnis des Begriffs, dann ist d/acc ein Rahmen, der problemlos die Betonung auf bessere demokratische Koordinationstechnologie, die Plurality-Werte schätzt, einschließen kann.
Wenn Sie ein öffentlicher Gesundheitsförderer sind, können Ideen eine Quelle für eine umfassendere langfristige Vision und die Möglichkeit sein, einen gemeinsamen Nenner mit „Technikern“ zu finden, mit denen Sie sich möglicherweise anderweitig im Widerspruch fühlen.
Wenn Sie ein Blockchain-Befürworter sind, ist d/acc eine modernere und breitere Erzählung, die umarmt werden sollte als die fünfzehnjährige Betonung von Hyperinflation und Banken, die Blockchains in den Kontext als eines von vielen Werkzeugen in einer konkreten Strategie stellt, um eine hellere Zukunft aufzubauen.
Wenn Sie ein solarpunk, dann ist d/acc eine Unterart von solarpunk und betont ähnlich die Intentionalität und kollektive Aktion.
Wenn Sie ein lunarpunk, dann werden Sie die Betonung auf die Verteidigung von Informationen durch die Aufrechterhaltung von Privatsphäre und Freiheit zu schätzen wissen.

Wir sind der hellste Stern

Ich liebe Technologie, weil Technologie das menschliche Potenzial erweitert. Vor zehntausend Jahren konnten wir einige Handwerkzeuge bauen, die Pflanzen auf einem kleinen Stück Land verändern und Grundlegende Häuser bauen. Heute können wir aufbauen 800 Meter hohe Türme, speichern Sie das gesamte aufgezeichnete menschliche Wissen in einem Gerät, das wir in unseren Händen halten können, kommunizieren sofort auf der ganzen Welt, verdoppeln unsere Lebensdauer und leben glücklich und erfüllt, ohne Angst zu haben, dass unsere besten Freunde regelmäßig an Krankheiten sterben.

Wir haben von unten angefangen, jetzt sind wir hier.

Ich glaube, dass diese Dinge zutiefst gut sind und dass die Ausweitung des menschlichen Einflusses sogar noch weiter zu den Planeten und Sternen zutiefst gut ist, weil ich glaube, dass die Menschheit zutiefst gut ist. Es ist in einigen Kreisen in Mode, dies zu bezweifeln: das freiwillige Bewegung zum Aussterben der Menschenargumentiert, dass die Erde besser dran wäre, wenn Menschen überhaupt nicht existieren würden, und viele weitere wollen sehenviel kleinere Anzahl von Menschensehen das Licht dieser Welt in den kommenden Jahrhunderten. Es ist üblich,streitendasMenschen sind schlechtweil wir betrügen und stehlen, Kolonialismus und Krieg betreiben und andere Arten misshandeln und auslöschen. Meine Antwort auf diese Denkweise ist eine einfache Frage: im Vergleich zu was?

Ja, Menschen sind oft gemein, aber wir zeigen viel häufiger Freundlichkeit und Gnade und arbeiten zusammen zum gegenseitigen Nutzen. Selbst während Kriegen achten wir oft darauf, Zivilisten zu schützen - sicherlich bei weitem nicht genug, aber auch weit mehr als Wir haben vor 2000 Jahren gemachtDas nächste Jahrhundert könnte durchaus weit verbreitetes Fleisch ohne Tierbasis bringen und damit die größte moralische KatastropheMenschen heute gerechtfertigt verantwortlich gemacht werden können. Nicht-menschliche Tiere sind nicht so. Es gibt keine Situation, in der eine Katze als ethisches Prinzip einen gesamten Lebensstil der Weigerung, Mäuse zu essen, annimmt. Die Sonne wird jedes Jahr heller, und in etwaeine Milliarde Jahrewird erwartet, dass die Erde dadurch zu heiß wird, um Leben zu erhalten. Denkt die Sonne überhaupt an den Völkermord, den sie verursachen wird?

Und so glaube ich fest daran, dass wir Menschen, aus all den Dingen, die wir in unserem Universum gekannt und gesehen haben, der hellste Stern sind. Wir sind das eine, von dem wir wissen, dass wir uns manchmal bemühen, uns um "das Gute" zu kümmern und unser Verhalten anpassen, um ihm besser zu dienen. In zwei Milliarden Jahren, wenn die Erde oder ein Teil des Universums immer noch die Schönheit des irdischen Lebens trägt, werden es menschliche Künste wie Raumfahrt sein.Geoengineeringdas wird es ermöglicht haben.

Wir müssen bauen und beschleunigen. Aber es gibt eine sehr reale Frage, die gestellt werden muss: Worauf beschleunigen wir eigentlich? Das 21. Jahrhundert könnte durchaus das sein,das entscheidende Jahrhundertfür die Menschheit das Jahrhundert, in dem unser Schicksal für die kommenden Jahrtausende entschieden wird. Fallen wir in eine Reihe von Fallen, aus denen wir nicht entkommen können, oder finden wir einen Weg in eine Zukunft, in der wir unsere Freiheit und Handlungsfähigkeit behalten? Das sind herausfordernde Probleme. Aber ich freue mich darauf, das große kollektive Bemühen unserer Spezies zu beobachten und daran teilzunehmen, um die Antworten zu finden.

Haftungsausschluss：

Dieser Artikel wurde von [ wiederveröffentlichtVitalik Buterin]. Alle Urheberrechte gehören dem Originalautor [Vitalik Buterin]. Wenn es Einwände gegen diesen Nachdruck gibt, wenden Sie sich bitte an die Gate LearnTeam und sie werden es umgehend bearbeiten.
Haftungsausschluss: Die Ansichten und Meinungen, die in diesem Artikel zum Ausdruck gebracht werden, sind ausschließlich die des Autors und stellen keine Anlageberatung dar.
Übersetzungen des Artikels in andere Sprachen werden vom Gate Learn Team durchgeführt. Sofern nicht anders angegeben, ist das Kopieren, Verteilen oder Plagiieren der übersetzten Artikel untersagt.