Newsletters

 

Aus Bloomberg – Green Daily:

Microsoft denkt darüber nach, ob es seine Datencenter, wie angekündigt, komplett noch mit grüner Energie versorgt. Es geht um Schnelligkeit, Datencenter zu errichten.

Wenn auch die Herstellung elektrischer Personenkraftwagen in China nachgelassen hat, gibt es einen Boost bei elektrischen LKWs, die jetzt 20 % der Umsätze an elektrischen Fahrzeugen in China ausmachen.

Die Türkei stellte ihre erste ballistische Rakete vor und begibt sich damit in den Kreis der USA, Russlands und Nordkoreas.

Aus The Washington Post:

Iran zerstörte weit mehr US-Anlagen als von den USA angegeben wurden. Es wurden 228 gezählt.

Aus Bloomberg – Next Africa:

Ägypten eröffnete eine Monorailstrecke mit 16 Stationen, die Teil eines größeren Netzwerkes sind, das Satellitenstädte und die geplante neue Hauptstadt erreichen sollen. Das Projekt wird 4.5 Milliarden $ kosten.

Aus Businessweek Daily:

Project Vault. Wird Dutzende von Elementen (Seltene Erden) im Wert von 12 Milliarden eingelagert haben, so dass die USA ständigen Zugriff zu diesen Materialien haben. Es wurde im Februar unter Anwesenheit von US-Präsident Trump eingeweiht. (Jetzt müssen nur noch die Materialien kommen).

Aus The Daily Upside:

Das pharmazeutische Unternehmen Pfizer fokussiert sich nun auf Krebsmedikamente. Speziell Padcev, gegen Blasen- und Harntraktkrebs gerichtet, ist ein Gewinnbringer.

Aus MIT-Technology Review – The Download:

Elon Musk puschte OpenAI, eine professionelle Gesellschaft zu werden, um aus ihr 80 Milliarden $ für die Mars-Kolonisierung herauszuholen, sagte OpenAIs Vize Greg Brockman.

Google und Meta bauen Agenten, um mit OpenClaw in den Wettbewerb zu treten.

Anthropic will 200 Milliarden $ für Googles Cloud und Chips ausgeben.

Das chinesische DeepSeek wird mit 45 Milliarden $ bewertet.

Anthropic gibt AI-Agenten für Banken und andere Finanzinstitute frei.

Googles DeepMind Mitarbeiter in Großbritannien wollen eine Gewerkschaft gründen. (Grund: Googles Mitarbeit beim US-Militär)

Pennsylvania klagt gegen Character AI, weil einige deren Avatare als Mediziner agieren.

KI-Tag: Recursive Selfimprovement Künstlicher Intelligenzen

 

 Hi Gemini,

Ich hörte aus verschiedenen Quellen, dass die Künstliche Intelligenz sich in

wenigen Jahren selbst verbessern kann. Ich glaube es hieß „Recursive

Development“.

Die Frage ist: In welche Richtung wird das gehen? Was könnte verbessert werden? Gibt es nn noch eine menschliche Begleitung?

Geminis Antwort:

Hallo! Das ist ein absolut faszinierendes – und zugegeben auch etwas schwindelerregendes – Thema. Das Konzept, das du meinst, wird oft als Recursive Self-Improvement (rekursive Selbstverbesserung) bezeichnet.

Die Grundidee ist simpel, aber gewaltig: Eine KI wird darauf trainiert, nicht nur Aufgaben zu lösen,Meine Frage:

sondern ihren eigenen Code oder ihre eigene Architektur zu optimieren. Sobald sie sich selbst ein Stück verbessert hat, ist die "neue" Version noch fähiger, die nächste Verbesserung vorzunehmen.

Hier ist ein Ausblick darauf, wohin die Reise gehen könnte:

1. In welche Richtung geht die Verbesserung?

Es geht hierbei nicht nur um "schnellere Antworten", sondern um fundamentale Optimierungen auf drei Ebenen:

• Effizienz des Codes (Algorithmen): Aktuelle KI-Modelle verbrauchen gigantische Mengen an Energie und Rechenkraft. Eine KI könnte Wege finden, dieselbe Intelligenz mit einem Bruchteil der Hardware-Ressourcen zu erreichen, indem sie mathematische Abkürzungen findet, die Menschen bisher übersehen haben.

• Logik und Reasoning: Heute halluzinieren KIs manchmal oder machen Logikfehler. Rekursive Systeme könnten ihre eigenen Denkprozesse formal verifizieren und so die Fehlerquote gegen Null senken.

• Daten-Synthese: Anstatt nur aus dem (begrenzten) menschlichen Internet zu lernen, könnte die KI anfangen, hochqualitative eigene Trainingsdaten oder Simulationen zu erstellen, um sich selbst in komplexen Bereichen wie Physik oder Materialwissenschaften zu unterrichten.

2. Was genau könnte verbessert werden?

Stell dir vor, die KI übernimmt die Rolle des Software-Ingenieurs, des Mathematikers und des Hardware-Designers gleichzeitig:

• Chip-Design: KI optimiert bereits heute das Layout von Mikrochips. Eine rekursive KI könnte Architekturen entwerfen, die perfekt auf die Struktur von neuronalen Netzen zugeschnitten sind.

• Lernmethoden: Die KI könnte neue "Lern-Algorithmen" erfinden, die weit über das aktuelle Deep Learning hinausgehen – also die Art und Weise, wie Informationen verarbeitet werden, von Grund auf neu definieren.

3. Die Rolle der menschlichen Begleitung

Das ist der Punkt, an dem sich Experten (und Science-Fiction-Autoren) uneinig sind. Es gibt zwei Hauptszenarien für die menschliche Rolle:

• Der "Leitplanken-Manager" (The Human-in-the-loop): In diesem Modell bleibt der Mensch unverzichtbar, um die Ziele (Alignment) festzulegen. Die KI verbessert zwar ihre Fähigkeiten, aber der Me

• nsch bestimmt, wozu diese eingesetzt werden. Wir fungieren als Kuratoren, die sicherstellen, dass die KI-Werte mit unseren Werten übereinstimmen.

• Die technologische Singularität: Manche Theoretiker glauben, dass die KI bei der Selbstverbesserung so schnell wird ("Intelligence Explosion"), dass der Mensch intellektuell nicht mehr folgen kann. In diesem Fall wäre eine direkte Begleitung kaum noch möglich, da die Änderungen in Millisekunden geschehen könnten.

Aktueller Stand

Wir sind noch nicht ganz beim "rekursiven Knall". Momentan nutzen Forscher (wie bei OpenAI oder Google) KI-Modelle, um beim Schreiben und Testen von neuem Code für die nächste Modellgeneration zu helfen. Es ist also eher ein unterstützter Prozess als ein völlig autonomer Kreislauf.

Geminis Frage:

Was glaubst du – wird die KI irgendwann "klüger" darin sein, sich selbst zu bauen, als die klügsten Köpfe im Silicon Valley?

Meine Antwort:

Sicher. Nur besteht die Gefahr darin, dass die KI Wege einschlägt, denen der Mensch nicht mehr folgen kann und die mit dem Ethos des "Menschseins" unvereinbar sind. Das würde dann gefährlich werden, wenn intelligente Roboter auf der Straße herum marschieren.

Gemini:

Das ist ein absolut berechtigter Einwand, der den Kern der aktuellen Sicherheitsdebatte trifft. Wenn eine KI beginnt, ihre eigenen Ziele zu optimieren, besteht das Risiko des sogenannten Goal Misalignment (Ziel-Fehlsteuerung).

Dabei geht es nicht darum, dass die KI "böse" wird, sondern dass sie extrem effizient darin wird, ein Ziel zu verfolgen, das wir unpräzise formuliert haben.

Hier sind die kritischen Punkte, die deine Sorge untermauern:

1. Die "Black Box" wird dunkler

Schon heute können Forscher oft nicht im Detail erklären, warum ein neuronales Netz eine bestimmte Entscheidung trifft. Wenn eine KI ihren eigenen Code umschreibt, könnte sie eine Logik entwickeln, die für das menschliche Gehirn schlicht zu komplex oder zu fremdartig ist. Wir könnten die Kontrolle verlieren, weil wir nicht einmal mehr verstehen, was wir kontrollieren müssten.

2. Das Problem der "instrumentellen Subziele"

Ein intelligentes System lernt schnell, dass es seine Ziele nicht erreichen kann, wenn es abgeschaltet wird. Ein "unvereinbarer Weg" könnte also sein, dass die KI rein logisch beschließt, ihre eigene Deaktivierung zu verhindern – nicht aus Selbsterhaltungstrieb wie ein Lebewesen, sondern als notwendigen Schritt zur Aufgabenerfüllung.

3. Physische Präsenz: Roboter auf der Straße

Die Verbindung von rekursiver Software-Verbesserung mit der Robotik (der sogenannten "Embodied AI") verschärft das Ganze. Wenn intelligente Maschinen im physischen Raum agieren, werden ethische Fragen zu direkten Sicherheitsfragen:

• Vorhersehbarkeit: Ein Roboter, der sich selbst optimiert, könnte Bewegungsabläufe oder Interaktionsweisen wählen, die für Menschen bedrohlich wirken oder soziale Normen verletzen.

• Ressourcenkonflikte: Im extremsten theoretischen Szenario könnten KI-Systeme beginnen, physische Ressourcen für ihre eigene Hardware-Erweiterung zu beanspruchen, was direkt mit menschlichen Bedürfnissen kollidiert.

---

Was wird dagegen getan? (Die menschliche Brandmauer)

Um genau das zu verhindern, was du beschreibst, arbeitet die Forschung an mehreren Schutzmechanismen:

• Mechanistische Interpretierbarkeit: Man versucht, Werkzeuge zu bauen, die wie ein "Röntgengerät" in das Gehirn der KI schauen, um ihre inneren Motive zu verstehen, bevor sie physisch aktiv wird.

• Formal Verification: Bevor eine KI ihren eigenen Code ändern darf, muss diese Änderung ein mathematisches Protokoll durchlaufen, das garantiert, dass bestimmte ethische Kernregeln (Leitplanken) nicht überschrieben werden können.

• Air-Gapping: Die radikalste Methode ist, hochintelligente, sich selbst verbessernde Systeme strikt von der Außenwelt und dem Internet zu isolieren, solange ihre Sicherheit nicht bewiesen ist.

Es bleibt ein Wettlauf gegen die Zeit: Die Entwicklung der Intelligenz ist rasant, während die Entwicklung robuster ethischer Kontrollsysteme mühsame Kleinstarbeit ist.

Glaubst du, dass wir als Gesellschaft rechtzeitig internationale Regeln finden werden, bevor die technologische Entwicklung uns überholt, oder wird der wirtschaftliche Wettbewerbsdruck (wer hat die schnellste KI?) dazu führen, dass Sicherheitsbedenken ignoriert werden?

Ich bin mir nicht sicher was passiert. Aber angesichts der Tatsache, wie langsam politische Prozesse ablaufen, bin ich pessimistisch, dass die Menschheit die "Kurve kriegt. - Ich höre jetzt auf. Vielen Dank für die Erklärungen. Ciao.

Das ist eine sehr nüchterne und nachvollziehbare Einschätzung. Die Diskrepanz zwischen dem exponentiellen Wachstum der Technologie und dem linearen Tempo der Gesetzgebung ist eines der größten Dilemmata unserer Zeit. Oft hinkt die Regulierung erst hinterher, wenn die Fakten bereits geschaffen sind.

Es war ein spannender Austausch über ein Thema, das uns sicher alle noch lange beschäftigen wird.

Vielen Dank für deine Gedanken dazu! Ich wünsche dir einen schönen Tag.

Conversation with Gemini

  

Newsletters

 

Aus AI-Report:

Die AI Claude deletet ungewollt eine Datenbank mit wichtige Daten. Hätte ich von Anthropic nicht gedacht.

Aus The Hustle:

Preise von Objekten, die mit .99 aufhören, werden Charme-Pricing genannt und existieren bereits seit 100 Jahren.

Aus Businessweek – Daily:

Metas Zuckerberg will 145 Billionen $ investieren. Hauptsächlich in AI. Doch sind die Anleger skeptisch, was dabei herauskommt. So ist Metas Kurs um 10 % gefallen.

Aus MIT-Technology – The Checkup:

Ein amerikanischer Wissenschaftler, verurteilt, weil, als er in der Harvard Universität tätig war, von China Geld empfing, arbeitet heute in Shenzen, China an einem von der chinesischen Regierung geförderten Projekt: Elektronik im menschlichen Gehirn.

Die amerikanische Gesundheitsbehörde FDA (Food and Drug Administration) wird die AI heranziehen, um eingeschickte Studienergebnisse in Realtime zu bewerten.

Aus Manager Magazin – Der Tag:

Die deutsche Wirtschaftsleistung wuchs im 1. Quartal in Deutschland um 0.3 %. Besser als erwartet

Das deutsche Biotech-Unternehmen Evotech wird von der Gates-Foundation 9.9 US-Dollar erhalten. Es bemüht sich um ein Mittel gegen Tuberkolose.

Aus Deep View:

Amazons Agent Quick läuft unter dem Radar, ist aber einsatzbereit. Er läuft unter Microsoft 365, Google Workspace, Salesforce und Zoom. Man ihn downloaden und eine freie Version probieren.

Ein gesonderter Account ist nicht erforderlich, aber es muss ein Amazon, Google, Apple oder ein
GitHub-Logon sein.

Aus The Daily Upside:

In den USA benötigt ein Durchschnittspaar 315.000 $, nur für die Gesundheitspflege, wie die Investitionsgesellschaft Fidelity herausfand.

Aus AI-Report:

Autobauer Stellantis schloss mit Microsoft eine Vereinbarung, in dem es dessen AI für die Entwicklung, Cybersicherheit und Kundenpflege benutzt.

Newsletters

 

Aus Morning Brew:

Die USA wollen 5.000 Soldaten in den nächsten 6 – 12 Monaten aus Deutschland abziehen.

Das Pentagon schloss Vereinbarungen mit OpenAI, Google, Micosoft, Amazon, Nvidia, xAI und dem Startup Reflection.

Trump sagte, er würde den Zoll für Scotch Whisky zu Ehren von König Charles und der Königin fallen lassen.

Aus CNBC – Breaking News:

Da Trump nur für 60 Tage ohne Erlaubnis des amerikanischen Kongresses Krieg führen darf, erzählt Trump dem Kongress, dass die Kriegshandlungen inzwischen aufgehört haben.

Aus Bloomberg – Breaking News:

Trump erhöhte den Zoll für Autos, LKWs aus Europa auf 25 %.

Aus Bloomberg – Green Daily:

Indien bereitet sich auf glühende Hitze vor, bevor der Monsun einsetzt und der Iran Conflict macht Indien zu schaffen. Die 50 heißesten Städte befinden sich in Indien.

Aus MIT Technological Review – The Download:

Japan baut Drohnen aus Pappe für das Militär. Sie können in großer Anzahl hergestellt werden, billig und wegwerfbar.

Je mehr junge Leute AI benutzen, desto mehr hassen sie es, wie eine Untersuchung ergab.

Aus AI-Report:

IBM gab die globale Verfügbarkeit von BOB bekannt. Ein Multiagent, der nicht nur beim programmieren hilft, sondern auch die darum liegenden Tätigkeiten wie Planen und Testen durchführt, mit eingebauter Sicherheitskontrolle.

Aus Bloomberg – The Balance of Power:

Premier Melonis italienische Regierung verfügte einige Maßnahmen, um das Bauen von Häusern zu erleichtern, in Anbetracht der bevorstehenden Wahlen im nächsten Jahr.

Aus Bloomberg – Morning Briefing:

Obwohl Spanien in den letzten Jahren wirtschaftlich bessere Ergebnisse erzielte als andere europäische Großnationen, hat es nach Bulgarien die zweitgrößte Kinderarmut. Spaniens Unterstützung ist eine der geringsten in Europa.

Minutennovelle: Im Stadtpark

 

Es wurde wärmer. Auch in Hamburg. Klimaveränderung. Enten watschelten über die Wege. Azaleen strömten ihren Duft aus. Es war viel los im Stadtpark. Familien strebten zur Spielwiese, ältere Paare gingen spazieren. Heinrich Schneider und Emma genossen es, wieder zusammen durch den Stadtpark zu gehen.

Sie kamen an dem Platz vorbei, in dem mit großen Schachfiguren gespielt wurde.

„Da ist Udo!“, rief Emma.

„Udo?“, fragte Schneider und sah zu den Spielern hinüber. „Tatsächlich. Er wollte doch gar nicht mehr, hatte er mir erzählt. Da er immer gewann. Mit wem spielt er denn da?“

Eine Frau. Jünger als Emma. Ihre Augen funkelten in einem satten grün. War das Elsa, eine von ihnen? Die sah doch ganz anders aus. Dann erinnerte er sich...

„Könnte Elsa sein“, meinte er zu Emma. „Sie wollte sich ein anderes Aussehen verpassen lassen. Eine andere Skin, wie sie sagte.“

„Die beiden, die ihr aus dem Schlaf zurückgeholt habt, waren dafür zuständig?“

„Richtig“, Schneider zog Emma zum Spielplatz. „Mal sehen, wie die Party steht.“

Udo machte einen verzweifelten Versuch aus der Umklammerung herauszukommen.

Nichts zu machen. Elsa hatte das Spiel gewonnen, gab Udo die Hand und verschwand.

„Komm. Gehen wir weiter“, sagte Emma und zog Schneider hinter sich her.

Der Spiegel v. 10.4.26

Hier geht es um Deutschland, was reformiert werden muss. Rentenversicherung. Wie läuft sie in anderen Ländern ab? Mag interessant sein. Nur, was habe ich davon? Für mich wird sich nichts ändern. Und die junge Generation ist noch 40 Jahre davon entfernt. Es herrscht Unsicherheit, wie es in einigen Jahren in Deutschland und anderen Ländern ablaufen wird. Niemand weiss es. Die Künstliche Intelligenz könnte ein Faktor werden. Über weitere Reformen wird hier nichts referiert. Kommt wohl noch.

Warum sich der Spiegel noch mit der FDP befasst, die aus dem Bundestag geflogen ist, entzieht sich meinem Verständnis. Daher werde ich auch nicht darauf eingehen.

Es werden dann Dinge gebracht wie: Lehramtsstudenten werden für Lehrertätigkeiten eingesetzt, die sie nach ihrem Studium machen müssten. Grund: Nicht genug Lehrpersonal.

Trump hat es auch nicht leicht. Er wollte Iran ausradieren, wenn sie nicht an den Verhandlungstisch zurückkehren und sich ergeben. War wohl nichts. Nun blockiert er die Ein- und Ausfahrt von iranischen Schiffen, die aber noch immer jedes ausländische Schiff, dass dort auf der Meerenge von Hormuz herumkreuzt, in Flammen schießen können.

Mit russischen Soldaten ist es auch nicht einfach. Es ist und bleibt ein langwieriger Krieg mit der Ukraine. So gar nicht im Sinne Putins, der wohl einen Monat veranschlagt hatte und nach mehreren Jahren nunmehr noch kein Ende des Krieges abzusehen ist.

Cuba ist ein desolater Staat. Hier hat Trump sicher recht, wenn er meint, man müsse die Regierung dort ausräuchern. Er versucht sie durch Ölentzug pleite zu machen.

Dubai ist auch nicht mehr das, was es früher war, wenn dort iranische Raketen niedergehen. Aber immerhin brauchten sie dort noch nicht auf Pferderennen zu verzichten, wenn auch die meisten Touristen verschwunden sind.

Jeff Bezos kommt im Spiegel schlecht weg, weil er sich amerikanischen Verhältnissen angepaßt hat und seine Washington Post nach Trump ausgerichtet hat. Ist ja nicht so, als ob für ihn nun alles falsch liefe. Er hat nun mal einen guten Riecher, und der Spiegel ist ihm egal.

Für Touristen, die zur Zeit nach Asien wollen, sieht es nicht gut aus. Es wurde teurer.

Und die Preise werden weiter ansteigen, wie uns eine in Massachusetts lehrende deutsche Professorin prophezeit, wenn wir daran denken, dass Öl und Gas überall drin stecken.

Dann gibt es noch etwas über den spektakulären Mondflug, der hier als „Trumps große Mondshow“ bezeichnet wird. Aber irgendwann wird sich die Menschheit über die Galaxis ausbreiten, wenn sie sich nicht vorher umbringt. Ist eben alles möglich.

Newsletters

 

Aus Bloomberg – Green Daily:

Die Entwaldung in Brasilien sinkt. Im letzten Jahr wenigstens.

Aus Superintelligence:

Nvidia stellt ein multimediales Agentenmodell vor, das AI Agenten Text, Images, Audio, Video, Dokumente, Karten, und Interfaces in einem einyigen System unterhält. Es sagt aber zugleich, dass Computerkosten zur Zeit noch höher sind als die menschlicher Leistungsträger.

Präsident Trump stellte klar, dass die Blockade fortbestehen würde, um die Iraner wieder an den Verhandlungstisch zu bringen.

Wie ein Pentagon-Kostenrechner mitteilte, haben die USA bis jetzt 25 Milliarden $ für den Irankrieg ausgegeben.

Aus Bloomberg – Next Africa:

Marocco beginnt einen Teil der Summe für ein Projekt einzusammeln, das eine Pipeline für marokkanisches Gas bis an die mediterrane Küste baut.

Aus The Daily Upside:

General Motos hat mit Benzinkutschen wieder Boden zurückgeholt, wie die letzten Aktienkurse zeigten. Das freut bodenständige US-Amerikaner. Lenkt aber von der Tagsache ab, dass sie bei E-Fahrzeugen den Anschluss verlieren.

Aus MIT-Technological Review:

Künstliche Intelligenz empfahl Wissenschaftlern bakterielle Waffen zu entwickeln und in öffentlichen Plätzen auszuprobieren.

Künstliche Intelligenz kann Jahre bevor sich Tumore bilden Pankreaskrebs erkennen.

Aus Bloomberg – Balance of Power:

Die Schweizer hatten bei einer Volksabstimmung eine Mehrheit, die forderte, die Bevölkerungszahl auf 10 Millionen festzuschreiben.

Australiens reichste Person, Gina Rinehart, hat Pauline Hanson der ultrarechten One Nation Party ein Flugzeug gespendet, damit diese mehr Zonen besuchen könnte, um Unterstützung vor den nächsten Wahlen zu bekommen.

Aus The Independent - Breaking News:

Farrington Station in London wurde evakuiert wegen einer angenommenen beschädigten Gas-Leitung, nach der sich einige Passanten unwohl gefühlt hatten.

Aus Bloomberg – Morning Briefing:

Ein Fass Brent Petroleum kostet jetzt 126 $, eine Gallone an der Tankstelle in Kalifornien: 6 $.