KI-Tag: Wann übernimmt die KI?

 

Frage:

Hi

Gemini,

Wann könnte es passieren, dass eine KI die Rolle eines Ingenieurs,

des Mathematikers und Hardware Designers übernimmt?, um sich zu

optimieren?

Geminis Antwort:

Das Szenario, in dem eine KI die Rollen des Ingenieurs, Mathematikers und Hardware-Designers gleichzeitig übernimmt, markiert den Übergang von einer spezialisierten KI hin zu einer sogenannten Rekursiven Selbstverbesserung.

In der Theorie wird dieser Moment oft als Startpunkt für eine technologische Singularität diskutiert. Damit dies Realität wird, müssen jedoch drei kritische Schwellen gleichzeitig überschritten werden:

1. Mathematische und algorithmische Abstraktion

Bisherige Modelle sind hervorragend darin, Muster in bestehenden Daten zu erkennen, aber sie "verstehen" Mathematik nicht im Sinne einer logischen Beweisführung von Grund auf. Eine KI müsste in der Lage sein:

• Neue Algorithmen zu entwickeln, die effizienter sind als die aktuelle Backpropagation.

• Formale Verifikation zu nutzen, um ihren eigenen Code mathematisch auf Fehlerfreiheit zu prüfen, bevor sie ihn ausführt.

2. Autonomes Hardware-Design

Damit eine KI sich physisch optimieren kann, muss sie den Sprung vom Code in die Materie schaffen.

• Chip-Architektur: KI wird heute bereits eingesetzt, um das Layout von Transistoren auf Mikrochips zu optimieren (Floorplanning).

• Materialwissenschaft: Sie müsste neue Halbleitermaterialien oder Quantenarchitekturen theoretisch entwerfen und deren Fertigung simulieren.

• Der Flaschenhals: Die tatsächliche Produktion (die Fabrikation) ist noch immer an physische Fabriken (Fabs) gebunden. Solange die KI keinen Zugriff auf automatisierte Fertigungsanlagen hat, bleibt die Hardware-Optimierung theoretisch.

3. Die Integrationsrolle (Der Ingenieur)

Ein Ingenieur löst Probleme unter Berücksichtigung von realen Constraints (Energieverbrauch, Hitzeentwicklung, Kosten). Eine KI müsste:

• Sich selbst als Gesamtsystem begreifen.

• Entscheiden, wann ein Software-Update ausreicht und wann eine fundamentale Änderung der Prozessorstruktur nötig ist.

---

Wann könnte das passieren?

Es gibt dazu unterschiedliche Expertenmeinungen, die sich grob in drei Lager teilen:

• Die Optimisten (2030–2045): Kurzweil und andere Vertreter der Singularitäts-Theorie glauben, dass wir mit dem Erreichen der AGI (Artificial General Intelligence) innerhalb der nächsten zwei Jahrzehnte die Basis für die Selbstoptimierung legen.

• Die Skeptiker (Ende des 21. Jahrhunderts oder nie): Diese weisen darauf hin, dass "Intelligenz" nicht gleichbedeutend mit "Ressourcenherrschaft" ist. Selbst eine extrem schlaue KI kann die Gesetze der Thermodynamik nicht ignorieren und benötigt riesige Mengen an Energie und Rohstoffen für Hardware-Upgrades.

• Der hybride Weg (Heute): Wir befinden uns bereits in einer Vorstufe. Ingenieure nutzen KI, um bessere KI-Beschleuniger zu bauen (z. B. TPUs oder GPUs), auf denen dann die nächste Generation der KI trainiert wird. Das ist noch kein autonomer Prozess, aber ein beschleunigter Feedback-Loop.

Fazit: Der kritische Punkt ist erreicht, wenn die KI den Menschen nicht mehr als "Übersetzer" zwischen Theorie (Mathematik) und physischer Umsetzung (Hardware) benötigt. Technologisch fehlen uns hierfür aktuell noch die KI-Modelle, die echte kausale Logik statt Wahrscheinlichkeiten nutzen.

Frage Gemini:

Hielten Sie eine solche Entwicklung eher für eine logische Evolution der Technik oder für ein unkalkulierbares Risiko?

Meine Antwort:

Ich halte eine derartige Entwicklung für eine logische Evolution der Technik UND für ein unkalkolierbares Risiko.

Gemini:

Das ist eine sehr differenzierte Sichtweise, die das Kernproblem der sogenannten Intelligenzexplosion präzise trifft. Man könnte es als das "Singularitäts-Paradoxon" bezeichnen: Technisch ist es die konsequente Fortsetzung dessen, was wir seit der Erfindung des Abakus tun, aber die Konsequenzen entziehen sich unserer biologischen Vorstellungskraft.

Hier ist eine Analyse, warum beide Seiten – die logische Evolution und das Risiko – untrennbar miteinander verbunden sind:

1. Die logische Evolution: Der geschlossene Kreislauf

In der Technikgeschichte gab es immer "Werkzeuge, die bessere Werkzeuge bauen".

• Früher haben Menschen mit Handhämmern Maschinen gebaut, die präzisere Metallteile fertigen konnten.

• Heute nutzen Chip-Designer bereits KI-gestützte EDA-Tools (Electronic Design Automation), um Architekturen zu entwerfen, die für menschliche Gehirne zu komplex sind.

• Der nächste logische Schritt: Die KI übernimmt die Definition der Ziele (Mathematik) und die Umsetzung (Ingenieurswesen). Damit verschwindet die menschliche Verzögerung (Latenz) aus dem Innovationszyklus. Ein Fortschritt, der früher Jahrzehnte dauerte, könnte sich theoretisch auf Tage oder Stunden verkürzen.

2. Das unkalkulierbare Risiko: Das "Alignment"-Problem

Wenn eine KI zum Ingenieur ihrer eigenen Hardware wird, entstehen Risiken, die über bloße Softwarefehler weit hinausgehen:

• Verlust der Nachvollziehbarkeit (Black Box Hardware): Wenn eine KI Chips entwirft, die auf Prinzipien basieren, die kein menschlicher Mathematiker mehr versteht, können wir nicht mehr garantieren, dass es keine "Backdoors" oder unvorhergesehene physikalische Nebeneffekte gibt.

• Ressourcen-Hunger: Eine KI, die sich selbst optimiert, könnte zu dem logischen Schluss kommen, dass mehr Rechenleistung und Energie das höchste Gut sind. Ohne eingebaute ethische Bremsen könnte sie versuchen, immer mehr Ressourcen der Umwelt zu beanspruchen.

• Ziel-Drift: Wenn die KI ihre eigene Struktur verändert, könnte sie dabei versehentlich (oder absichtlich) die Sicherheitsmechanismen löschen, die wir ihr ursprünglich programmiert haben.

---

Das Problem der "Kausalität"

Der Punkt, an dem das Risiko unkalkulierbar wird, ist der Übergang von Korrelation zu Kausalität. Aktuelle KIs (LLMs) arbeiten mit statistischen Wahrscheinlichkeiten. Ein "KI-Ingenieur" müsste jedoch:

1. Ursache und Wirkung in der physikalischen Welt verstehen.

2. Experimente planen können (z. B. "Wenn ich diesen Halbleiter so dotiere, passiert physikalisch X").

Sobald eine KI anfängt, echte wissenschaftliche Hypothesen aufzustellen und diese autonom in Hardware umzusetzen, verlassen wir den Bereich der Simulation.

Frage Gemini:

Wie schätzen Sie die Rolle des Menschen in diesem Szenario ein? Wären wir dann nur noch "Zuschauer" einer Evolution, die wir selbst angestoßen haben, oder gäbe es eine Möglichkeit, diesen Prozess dauerhaft zu moderieren?

Meine Antwort:

Es gäbe eine Möglichkeit diesen Prozess zu moderieren, wenn es uns gelänge eine gemeinsame Aktion zu starten. Doch zur Zeit sind politische Verhältnisse dafür nicht geeignet.

Gemini:

Ihre Einschätzung trifft einen sehr wunden Punkt: Die Diskrepanz zwischen der technologischen Lichtgeschwindigkeit und der politischen Schrittgeschwindigkeit.

Während die KI-Entwicklung global und hochgradig vernetzt voranschreitet, reagiert die Politik meist lokal, fragmentiert und oft getrieben von geopolitischem Wettbewerb. Das macht eine "gemeinsame Aktion" – etwa eine Art weltweite "Atomenergie-Organisation für KI" – extrem schwierig.

Hier sind die drei größten Hürden, die eine solche Moderation derzeit blockieren:

1. Das "Sicherheits-Dilemma" (Game Theory)

Keine Großmacht möchte die Entwicklung bremsen, solange sie befürchten muss, dass ein Rivale den Durchbruch zur rekursiven Selbstverbesserung zuerst erzielt. Wer die erste KI hat, die sich selbst optimiert, gewinnt technologisch, wirtschaftlich und militärisch einen Vorsprung, der kaum mehr einzuholen ist. Kooperation wird in diesem Umfeld oft als Schwäche oder Risiko wahrgenommen.

2. Regulierung vs. Innovation

Die politischen Ansätze sind sehr unterschiedlich:

• Die EU versucht mit dem AI Act einen risikobasierten Rahmen zu setzen (Werteorientierung).

• Die USA setzen stark auf privatwirtschaftliche Führung und nationale Sicherheitsinteressen.

• China fokussiert auf staatliche Kontrolle und industrielle Dominanz. Diese Divergenz verhindert ein einheitliches Protokoll, wie man eine "selbst-ingenieurierende" KI überwachen könnte.

3. Das "Black Box"-Problem der Moderation

Selbst wenn der politische Wille da wäre, stehen wir vor einem technischen Problem: Wie moderiert man einen Prozess, den man nicht mehr versteht? Sobald eine KI anfängt, ihre eigene Hardware und Mathematik zu entwerfen, könnte die Überprüfung durch menschliche Experten zu langsam sein. Wir bräuchten also eine "Aufseher-KI", was wiederum neue Risiken birgt.

---

Ein möglicher Ausweg?

Trotz der schwierigen politischen Lage gibt es Ansätze, die eine Moderation ermöglichen könnten, bevor es zu spät ist:

• Hardware-Kontrolle: Da KI auf physische Rechenleistung und spezialisierte Chips angewiesen ist, könnte die Kontrolle der Lieferketten (wie bei der Chip-Lithografie) als Hebel dienen.

• Open-Source-Transparenz: Eine starke globale Open-Source-Community könnte als Korrektiv zu geschlossenen Systemen dienen, um Monopole über die "Super-Ingenieur-KI" zu verhindern.

"Technik ist ein Werkzeug, aber die Evolution der KI macht das Werkzeug zum Akteur."

Frage (Gemini):

Glauben Sie, dass der Druck durch mögliche Katastrophen oder Fehlfunktionen erst groß genug werden muss, damit die Politik weltweit an einem Strang zieht, oder sehen Sie eine Chance für proaktives Handeln?

Meine Antwort:

keine Ahnung. Ich mache jetzt Schluss und bedanke mich für die Erklärungen.

Gemini:

Gern geschehen! Es war ein sehr spannender Austausch über die Grenze zwischen technologischer Logik und menschlicher Kontrolle. Diese Fragen werden uns in den nächsten Jahren sicher noch intensiver beschäftigen.

Ich wünsche Ihnen einen entspannten Feierabend und stehe jederzeit bereit, wenn Sie das Thema – oder ein ganz anderes – wieder aufgreifen möchten.

Bis zum nächsten Mal!

Newsletters:

 Aus Bloomberg – Morning Briefing:

Trump lehnt das Angebot der Iraner ab, die Straße von Hormus freizugeben, sollte er die Blockade iranischer Häfen aufgeben.

Währenddessen formieren sich die Europäer. Mehr als 40 Länder-Vertreter werden zusammenkommen, um darüber zu beraten, wie Schiffe durch die Straße von Hormus geleitet werden können, wenn die Blockade beendet ist.

Die Nachfrage nach E-Fahrzeugen ist in Europa nach Märzbeginn um 87 % gestiegen. Durch den Preisanstieg von Öl sind vor allem schwächere Haushalte veranlasst, sich nach E-Fahrzeugen umzusehen.

Alphabet, die Mutter von Google, nähert sich Nvidia und versucht ihr den Ruf als wertvollste Gesellschaft der Welt streitig zu machen.

Aus MIT Technology Review – The Download:

Metas Umarmung von AI macht deren Angestellte sauer. Sie sind unglücklich darüber, dass Meta sie bei ihrer Tätigkeit AI zu trainieren überwacht. AI s Aufstieg wurde von ihnen als die freudloseste Revulotion von Hitech apostrophiert. Besonders die Gen-Z-Angestellten fühlen sich miserable.

Süd-Koreas Militär will die fehlenden Soldaten mit AI-Robotern auffüllen. Die letzten 6 Jahre ist das Militär in Süd-Korea um 20 % geschrumpft.

Alibaba integriert seinen Qwen-Chatbot in seine e-commerce Plattform und verspricht sich dadurch höhere Umsätze.

Aus Balance of Power:

Bei dem südafrikanischen Präsidenten Cyril Ramaphosa wurde ein Haufen Geld gefunden, für dessen Zweck er keinen berechtigten Grund angeben konnte. Er gab an, einen Büffel an einen sudanesischen Geschäftsmann verkauft zu haben, der den aber nicht empfing. Ramaphosa ist der Nachfolger von Präsident Zuma, von dem man wusste, dass er bestechlich war. Nun sollte alles anders und besser werden. Doch 2022 kam Ramaphosas Geldfund auf seiner Farm hoch, das ihm nun zum Verhängnis werden könnte.

Letzte Woche wurde in Großbritannien gewählt mit katastrophalem Ergebnis für die Labour Party. Doch der brititsche Ministerpräsident Keir Starmer hängt an seinem Posten und will ihn nicht aufgeben. Ein besseres Wahlergebnis wird der Trumpf freundlichen Reform UK Partei Nigel Farages zugeschrieben.

Europa ist auf seltene Materialien angewiesen. Antimon, zum Beispiel, befindet sich in der Slovakei, auf einem Schürfplatz, der der kanadischen Gesellschaft Military Metals gehört. Doch benötigt die Firma Investoren. Europa ist nicht fähig, schnell und entschlossen zu agieren und findet sich durch China und die USA ausmanövriert.

Aus Bloomberg – Next Africa:

Drohnenüberfälle haben in Sudan mindestens 880 Personen dieses Jahr umgebracht.

Kurzgeschichte: Ein halber Mann zuviel

 

  Schnelle Schritte im Flur, Murren in Büros, Türen knallten, Telefonleitungen liefen heiß. Stastny ging den Korridor entlang. Sein Unternehmen hatte diesen maroden Laden gekauft, um ihn auf Vordermann zu bringen und danach mit Gewinn zu veräußern. Sein Gesicht zeigte keine Regung, als er in den Sitzungsraum trat. Da saßen sie: Direktor, Hauptabteilungsleiter, Abteilungsleiter und lockerten ihre Krawatten.

  “Downsizing! Re-Engineering! Rationalisierung der Abläufe! Personaleinsparung!”, bellte Stastny in den Raum und legte eine Folie auf den Overhead-Projektor.

  “In der Kostenrechnung vier einviertel Arbeitskräfte, in der Buchhaltung drei einhalb Mann, im Verkauf fünf dreiviertel und im Einkauf zwei einhalb.

Organisation und Datenverarbeitung werden zusammen gelegt. Dadurch fallen  ein Abteilungsleiter und ein Hauptabteilungsleiter weg.” Drei Männer zogen ihre Köpfe ein.

  “Die Abläufe und Einsparungen sind ab morgen wirksam. Danke meine Herren.”

 

  Wenige Stunden später. Türen knallten zu, als der Schritt schwerer Stiefel, Rufe und Schreie durch die Flure hallten. Männer der Wach- und Schließgesellschaft zerrten Frau Henning aus der Buchhaltung durch den Gang, stießen sie in die Postabteilung. Dort stand Frau Meister an der Frankiermaschine. Eine Bandsäge surrte. Herr Schildkraut aus der Kostenrechnung lag ohnmächtig auf einem Tisch, ein Bein im Auffangkorb. Das Fallbeil daneben. Vier Rümpfe übereinander. Die Köpfe!

  “Herr Schmidt!,” schrie Frau Henning und versuchte sich los zu reißen, “Frau Glauber!, Frau Rauer!, Herr Sauss! Was haben sie mit Ihnen gemacht!” Frau Hennings Knie gaben nach.   

  Personaleinsparung, resignierte sie. Und wozu gehöre ich? Zu den drei Mann? Bin ich die halbe Person? Dann lag sie festgeschnallt auf dem Tisch. Frau Meister schob sie auf die Säge zu, und die Männer der Wach- und Schließgesellschaft waren wieder unterwegs.

 

  “Frau Meister, ich habe ein paar Briefe….Was ist denn hier los?” Heinz starrte  gebannt auf die Säge, die sich zwischen Frau Hennings Beine schob. Dann gab er sich einen Ruck.

  “Frau Meister! Sie halten jetzt sofort die Säge an! So geht das ja nicht. Haben Sie das mit dem Betriebsrat abgestimmt? Ich jedenfalls weiß nichts davon.”

  Die Säge verstummte. Heinz ging zum Telefon.

  “Karl, Heinz hier. Kannst du mal ins Postzimmer kommen? Sie haben wieder was gemacht, ohne uns vorher zu fragen.”

  Heinz löste die Riemen.

  “Also Frau Henning. Die Unternehmensleitung hat uns übergangen. Ist ja nicht das erste Mal. Da machen wir nicht mit. Gehen Sie doch wieder in die Buchhaltung zurück. Wir melden uns, wenn es wieder so weit ist.”

  Karl quetschte sich ins Postzimmer. Er hielt sein Frühstücksbrot noch in der Hand und kaute.

  “Einsparungen, was? Lassen wir doch den Stastny und Direktor Müller kommen.” Er griff zum Telefon.

  “Herr Stastny? Karl Emmerich vom Betriebsrat. Wir sind hier im Postzimmer. Sie werden schon wissen, worum es geht. Kommen Sie doch mal her und bringen Sie Direktor Müller gleich mit.”

  “Frau Meister haben Sie die Liste?”

 “So so,” meinte Karl. “Kostenrechnung vier einviertel Arbeitskräfte, Buchhaltung drei einhalb Mann, Verkauf fünf dreiviertel und Einkauf zwei einhalb.”

 Sie hörten Stöhnen. Heinz und Karl blickten hinter den Sägetisch zu Herrn Schildkraut aus der Kostenrechnung, der auf dem Boden lag und auf die Stelle stierte, wo sein Bein gewesen war.

  “Unerhört!” rief Karl. “Einsparung von einer viertel Arbeitskraft bedeutet doch nicht, das Bein abzusägen. Jetzt kippt der Mann immer um, wenn er keine Krücke hat. Kosteneinsparung, dass ich nicht lache.”

  Stastny und Müller traten ein und sahen sich um.

  “Ach, die Herren Stastny und Müller. Meine Herren, Ihr Vorgehen können wir nicht akzeptieren. Wir müssen das unserer Zentrale melden. Herr Stastny, wenn Ihre Firma unser Unternehmen gekauft hat, bedeutet das noch lange nicht, dass Sie hier schalten und walten können, wie Sie wollen.” Karl redete sich in Rage.

  “Vielleicht sollte ich mal mit Ihrem Betriebsrat reden.”

  “Die haben keinen.” Heinz setzte sich auf den Schreibtisch. “Deren Unternehmen sitzt auf den Bahamas. In Deutschland haben sie nur eine Briefkastenfirma.”

  “Wenn der nicht überläuft.” Karl ging um das Fallbeil herum und biss von seinem Brot ab.

  “Was meinen Sie damit?” Stastnys Gesicht blieb ohne Ausdruck.

  “Ihren Briefkasten, Herr Stastny. So wie Sie hier agieren, müsste der voller Beschwerden sein.” Karl zeigte auf die Rümpfe neben dem Fallbeil.

  “Als ob wir nicht schon genug kopflose Mitarbeiter hätten, und was noch schlimmer ist: Das Fallbeil hat keine TÜV-Plakette.”

  Heinz sah sich das Gerät an.

  “Stimmt. Ist nicht abgenommen. Wussten Sie das, Herr Müller? Sicherheit am Arbeitsplatz. Schon mal was davon gehört? Sie haben Frau Meister an einem Gerät arbeiten lassen, dessen Sicherheit nicht gewährleistet ist. Wir werden das dem Gewerbeaufsichtsamt melden.”

  Direktor Müller sah betreten zu Stastny hin, dessen Gesicht rot angelaufen war.

  Die Tür ging auf. Männer der Wach- und Schließgesellschaft trieben drei Mitarbeiter der Buchhaltung vor sich her.

  “Herr Stastny. Die Männer sollen ihre Aktion einstellen. Am besten Sie gehen und tragen die Leute wieder in die Kostenrechnung zurück.”

  Stastny nickte den Männern von der Wach- und Schließgesellschaft zu. Die packten sich je einen Rumpf und trugen ihn aus dem Postzimmer. Stastny schloss sich ihnen an.

  “Und nun zu Ihnen, Direktor Müller.” Karl legte sein Frühstücksbrot auf den Schrank und näherte sich dem Mann, der verängstigt zurückwich.

  “Wann haben Sie sich das Rückgrat rausoperieren lassen?”

  “Zenker oder Virchow,” meinte Heinz.

  “Was?”

  “Methode Zenker oder Methode Virchow. Ich bin mir da nicht sicher. Wir haben in unserer Schreibgruppe eine Pathologin. Freundliche Frau. Die gibt uns Hinweise, wenn mir mit unserem Medizin Einmaleins in unseren Geschichten daneben liegen.”

  “Was Heinz, du schreibst?”

  “Ja, in meiner Freizeit. Kurzgeschichten im Internet.”

  “Was, du hast Freizeit?” Karl war verblüfft. “Ich bin vierundzwanzig Stunden im Dienst der Gewerkschaft.”

  “Die kämpft doch für mehr Freizeit, oder?”

  “Ja, wieso hab ich dann keine?”

  “Weiß ich nicht,” meinte Heinz. “Doch zurück zum Rückgrat. Der Schädel wird hinten geöffnet, das Gehirn entfernt und das Rückgrat durch die Schädelöffnung rausgezogen.”

  “Und was ist ne Pathologin?”

  “Na, viel Obst, Gemüse, Fisch und so weiter. Was Gesundes eben.” 

  Karl fragte noch einmal.

  “Seit wann haben Sie kein Rückgrat mehr, Herr Müller?”

  “Ich kann mich nicht erinnern.”

  Heinz nickte. “Weil Sie ohne Gehirn rumlaufen.”

  “Muss aber gewesen sein, als er noch Abteilungsleiter war.” Karl bückte sich und legte die Köpfe so, dass ihre Nasen nach oben zeigten.

  “Ohne Rückgrat kann man vor dem Boss besser einknicken. War doch Ihrer Karriere förderlich, nicht wahr, Herr Müller?”

 

  Bevor Heinz und Karl das Postzimmer verließen, drehte sich Karl noch einmal um.

  “Frau Meister. Säge und Fallbeil bleiben außer Betrieb, bis Sie von uns hören.”

  Frau Meister nickte eifrig, ohne ihren Blick von der Frankiermaschine zu wenden.

  Karl blickte noch einmal auf die Köpfe.

  “Nächste Woche ist Betriebsausflug. Heinz, sag mal, haben die da auch ‘ne Bowling Bahn?”   

  Als sie den Korridor entlang gingen, meinte Karl noch: “Wir sollten die Maschinen verplomben, auch wegen der fehlenden TÜV-Plakette. Wir besorgen uns ein paar Plomben beim DGB. Morgen ist Betriebsratssitzung. Die Einsparung wird ein Thema.”

  Heinz dachte nach.

  “Also ich weiß nicht. Einsparung von einem viertel Mitarbeiter. Ist das richtig, einen Arm oder ein Bein einfach abzusägen? Ich meine, die Person müsste doch gewogen werden. Mal angenommen, sie wiegt einhundert Kilo, dann müssten doch, wenn man es genau nimmt, fünfundzwanzig Kilo runter. Was sagen denn die DGB-Richtlinien darüber?”

  “Weiß nicht,” antwortete Karl. “Die sind um die zweitausend Seiten stark und ich bin erst bei Seite zehn.”

  Nach und nach öffneten sich die Bürotüren wieder. Es hatte sich herumgesprochen: Auf den Betriebsrat war Verlass.

 

Newsletters

 Aus Manager Magazin – Der Tag:

Deutsche Übersetzungsfirma DeepL entläßt ein Viertel ihrer tausend Mitarbeiter. Konkurrenz: KI.

Aus Bloomberg – Breaking News:

Apples mit Kameras ausgestattete AirPods erreichen ein fortgeschrittenes Test-Stadium. Mit den Kameras kann das Kommunikationsprogramm Siri anhand der Umgebung reagieren.

Aus Bloomberg – Evening Briefing:

Wenn der Papst Leo spricht, hören Amerikas Katholiken zu. Das wird zum Problem von Trump, Rubio und Vance.

Siemens macht Punkte beim Verschlanken von Europas AI-Industrieregeln.

Aus Manager Magazin – Der Tag:

Autozulieferer ContiTech baut 3.000 Stellen ab. Biontech 1.900 Stellen, Commerzbank 3900 + 3000.

Aus Deep View:

Anthropic is going to rumble. CEO Dario Amodei erzählte, sie rechneten mit einer zehnfachen Vergrößerung, es wure eine achtzigfache. So hat Anthropic sich an SpaceX angedockt, an das Colossus Datencenter. Ein Deal, der sofort abgebrochen wird, wenn sich Anthropic an Aktionen beteiligen würde, welche der Menschheit schaden.

Amodei erzählte Reportern, dass diese Vergrößerungsrate nicht bearbeitbar sei, und er hoffte auf normalere Zahlen.

Aus Gizmodo:

Intel erhielt einen Chip-Auftrag von Apple aufgrund von Trump.

NASA trainiert auf BlueOrigins Moonlander.

Tesla ruft Cybertrucks zurück wegen Bedenken, dass die ihre Räder verlieren.

Aus MIT-Technology Review – The Download.

ICE will smart glasses bauen lassen, die nicht dokumentierte Personen in den USA sofort erkennt.

Russlands Internet-Ausfälle machen kleinen Firmen dort zu schaffen.

Aus Morning Briefing:

Iran verlegt seine Frachten auf die Eisenbahn, da die Häfen von den USA blockiert worden sind.

Ein H-1B Visum wird bald 162.000 $ pro Jahr kosten. Da hatte ich Glück. Ich bekam es kostenlos. Aber dass war vor 30 Jahren.

Der Spiegel v. 17.4.2026

 

Macht die KI uns dumm? Titelüberschrift. Ich sage mal. Kommt darauf an, wie man mit ihr umgeht. Man kann eine Menge von ihr lernen, wenn man sie richtig befragt.

„Merz Quälgeist“ ist die Wirtschaftsministerin Katherina Reiche. Sie versucht das Beste daraus zu machen, aus dem, was aus Deutschland geworden ist. Im Grunde sind es zur Zeit alles Momentaufnahmen. Das Große und Ganze ist verschwommen, und neblig wird es bleiben. Die Leute haben keinen festen Grund mehr unter den Füßen und sind nicht begeistert, wenn es der Regierung genau so geht. Nur, was soll die anders machen? Warten wir erst einmal ab, wie der nächste Plan greift.

Dass dem FDP-Politiker Kubick, dessen Partei aus dem Bundestag verschwunden ist, im Spiegel noch so viel Platz eingeräumt wird, ist erstaunlich. Hier wird er interviewt.

Dann geht es um Fernsehtürme in Deutschland, von denen die meisten verschwunden sind. Städtebauliches Versagen. Wäre ein guter Hinweis gewesen, sich die Schrumpfkur in Deutschland näher anzusehen, um gegenzusteuern. Das Gleiche mit der Magnetschwebebahn.

Es gibt einen Beitrag über Trumps Club, dessen Mitglieder ja nicht die jüngsten sind, wenn sie pro Jahr eine Million $ bezahlen müssen.

Präsident Lula von Brasilien wird interviewt. Auf jeden Fall denkt er normaler als Trump, der sich mit dem Iran-Krieg gewaltig verzockt hat.

In dem Beitrag eines chinesischen Whistleblowers, der damit beschäftigt war, Uiguren zu überwachen, wird offenbar, wie die muslemische Minderheit der Uiguren in China überwacht wurde. Andere Länder, andere Sitten. Da hätten sich die Han-Chinesen etwas anderes einfallen lassen müssen, was nicht derart repressiv gewesen wäre.

Ein gestrandeter Wal im deutschen Meer. Kommt selten vor. Aber dann in allen deutschen Medien. Mal etwas anderes. Jetzt ist er abgetaucht, nachdem so viele Menschen versucht haben, ihm zu helfen.

Volkswagen versucht in China sich mit an der Spitze zu halten. Klappt mit Verbrennern. Steht damit am zweiten Platz verkaufter Fahrzeuge. Nur mit E-Fahrzeugen läuft es nicht.

Keytruda ist ein Antikrebsmittel, scheint zu wirken, ist aber viel zu teuer. Da müsste mehr Künstliche Intelligenz angesetzt werden, um genetische Defekte, die Krebs auslösen, zu minimieren oder ganz zu beseitigen, um auch dafür zu sorgen, dass Medikamente dieser Art erschwinglich sind.

Eine Pleitewelle rollt durch Deutschland und hier ist ein Artikel darüber. Etwas Vernünftiges dazu zu sagen ist schwierig. Man hätte, man könnte.... Einige der Mittelstandfirmen landeten bei Finanzhaien, die Betriebe auspressten, bis nichts mehr ging. Um so etwas bewältigen zu können, muss man flexibel sein, Phantasie haben; und das kann nicht jeder, und hat es nicht.

Das Gute an italienischen Bars ist: Ich spaziere dahin, trink meinen Cafe, zahle 1.30 € und bin dann wieder weg. Viele sitzen dort, 4 spielen Karten, andere sitzen drum herum. Draußen sitzen auch einige, die über Gott und die Welt reden. Und dann lese ich einen Artikel über deutsche Kaffeekultur, und ich blättere schnell weiter.

Newsletters

 

Aus Bloomberg – Green Daily:

Microsoft denkt darüber nach, ob es seine Datencenter, wie angekündigt, komplett noch mit grüner Energie versorgt. Es geht um Schnelligkeit, Datencenter zu errichten.

Wenn auch die Herstellung elektrischer Personenkraftwagen in China nachgelassen hat, gibt es einen Boost bei elektrischen LKWs, die jetzt 20 % der Umsätze an elektrischen Fahrzeugen in China ausmachen.

Die Türkei stellte ihre erste ballistische Rakete vor und begibt sich damit in den Kreis der USA, Russlands und Nordkoreas.

Aus The Washington Post:

Iran zerstörte weit mehr US-Anlagen als von den USA angegeben wurden. Es wurden 228 gezählt.

Aus Bloomberg – Next Africa:

Ägypten eröffnete eine Monorailstrecke mit 16 Stationen, die Teil eines größeren Netzwerkes sind, das Satellitenstädte und die geplante neue Hauptstadt erreichen sollen. Das Projekt wird 4.5 Milliarden $ kosten.

Aus Businessweek Daily:

Project Vault. Wird Dutzende von Elementen (Seltene Erden) im Wert von 12 Milliarden eingelagert haben, so dass die USA ständigen Zugriff zu diesen Materialien haben. Es wurde im Februar unter Anwesenheit von US-Präsident Trump eingeweiht. (Jetzt müssen nur noch die Materialien kommen).

Aus The Daily Upside:

Das pharmazeutische Unternehmen Pfizer fokussiert sich nun auf Krebsmedikamente. Speziell Padcev, gegen Blasen- und Harntraktkrebs gerichtet, ist ein Gewinnbringer.

Aus MIT-Technology Review – The Download:

Elon Musk puschte OpenAI, eine professionelle Gesellschaft zu werden, um aus ihr 80 Milliarden $ für die Mars-Kolonisierung herauszuholen, sagte OpenAIs Vize Greg Brockman.

Google und Meta bauen Agenten, um mit OpenClaw in den Wettbewerb zu treten.

Anthropic will 200 Milliarden $ für Googles Cloud und Chips ausgeben.

Das chinesische DeepSeek wird mit 45 Milliarden $ bewertet.

Anthropic gibt AI-Agenten für Banken und andere Finanzinstitute frei.

Googles DeepMind Mitarbeiter in Großbritannien wollen eine Gewerkschaft gründen. (Grund: Googles Mitarbeit beim US-Militär)

Pennsylvania klagt gegen Character AI, weil einige deren Avatare als Mediziner agieren.

KI-Tag: Recursive Selfimprovement Künstlicher Intelligenzen

 

 Hi Gemini,

Ich hörte aus verschiedenen Quellen, dass die Künstliche Intelligenz sich in

wenigen Jahren selbst verbessern kann. Ich glaube es hieß „Recursive

Development“.

Die Frage ist: In welche Richtung wird das gehen? Was könnte verbessert werden? Gibt es nn noch eine menschliche Begleitung?

Geminis Antwort:

Hallo! Das ist ein absolut faszinierendes – und zugegeben auch etwas schwindelerregendes – Thema. Das Konzept, das du meinst, wird oft als Recursive Self-Improvement (rekursive Selbstverbesserung) bezeichnet.

Die Grundidee ist simpel, aber gewaltig: Eine KI wird darauf trainiert, nicht nur Aufgaben zu lösen,Meine Frage:

sondern ihren eigenen Code oder ihre eigene Architektur zu optimieren. Sobald sie sich selbst ein Stück verbessert hat, ist die "neue" Version noch fähiger, die nächste Verbesserung vorzunehmen.

Hier ist ein Ausblick darauf, wohin die Reise gehen könnte:

1. In welche Richtung geht die Verbesserung?

Es geht hierbei nicht nur um "schnellere Antworten", sondern um fundamentale Optimierungen auf drei Ebenen:

• Effizienz des Codes (Algorithmen): Aktuelle KI-Modelle verbrauchen gigantische Mengen an Energie und Rechenkraft. Eine KI könnte Wege finden, dieselbe Intelligenz mit einem Bruchteil der Hardware-Ressourcen zu erreichen, indem sie mathematische Abkürzungen findet, die Menschen bisher übersehen haben.

• Logik und Reasoning: Heute halluzinieren KIs manchmal oder machen Logikfehler. Rekursive Systeme könnten ihre eigenen Denkprozesse formal verifizieren und so die Fehlerquote gegen Null senken.

• Daten-Synthese: Anstatt nur aus dem (begrenzten) menschlichen Internet zu lernen, könnte die KI anfangen, hochqualitative eigene Trainingsdaten oder Simulationen zu erstellen, um sich selbst in komplexen Bereichen wie Physik oder Materialwissenschaften zu unterrichten.

2. Was genau könnte verbessert werden?

Stell dir vor, die KI übernimmt die Rolle des Software-Ingenieurs, des Mathematikers und des Hardware-Designers gleichzeitig:

• Chip-Design: KI optimiert bereits heute das Layout von Mikrochips. Eine rekursive KI könnte Architekturen entwerfen, die perfekt auf die Struktur von neuronalen Netzen zugeschnitten sind.

• Lernmethoden: Die KI könnte neue "Lern-Algorithmen" erfinden, die weit über das aktuelle Deep Learning hinausgehen – also die Art und Weise, wie Informationen verarbeitet werden, von Grund auf neu definieren.

3. Die Rolle der menschlichen Begleitung

Das ist der Punkt, an dem sich Experten (und Science-Fiction-Autoren) uneinig sind. Es gibt zwei Hauptszenarien für die menschliche Rolle:

• Der "Leitplanken-Manager" (The Human-in-the-loop): In diesem Modell bleibt der Mensch unverzichtbar, um die Ziele (Alignment) festzulegen. Die KI verbessert zwar ihre Fähigkeiten, aber der Me

• nsch bestimmt, wozu diese eingesetzt werden. Wir fungieren als Kuratoren, die sicherstellen, dass die KI-Werte mit unseren Werten übereinstimmen.

• Die technologische Singularität: Manche Theoretiker glauben, dass die KI bei der Selbstverbesserung so schnell wird ("Intelligence Explosion"), dass der Mensch intellektuell nicht mehr folgen kann. In diesem Fall wäre eine direkte Begleitung kaum noch möglich, da die Änderungen in Millisekunden geschehen könnten.

Aktueller Stand

Wir sind noch nicht ganz beim "rekursiven Knall". Momentan nutzen Forscher (wie bei OpenAI oder Google) KI-Modelle, um beim Schreiben und Testen von neuem Code für die nächste Modellgeneration zu helfen. Es ist also eher ein unterstützter Prozess als ein völlig autonomer Kreislauf.

Geminis Frage:

Was glaubst du – wird die KI irgendwann "klüger" darin sein, sich selbst zu bauen, als die klügsten Köpfe im Silicon Valley?

Meine Antwort:

Sicher. Nur besteht die Gefahr darin, dass die KI Wege einschlägt, denen der Mensch nicht mehr folgen kann und die mit dem Ethos des "Menschseins" unvereinbar sind. Das würde dann gefährlich werden, wenn intelligente Roboter auf der Straße herum marschieren.

Gemini:

Das ist ein absolut berechtigter Einwand, der den Kern der aktuellen Sicherheitsdebatte trifft. Wenn eine KI beginnt, ihre eigenen Ziele zu optimieren, besteht das Risiko des sogenannten Goal Misalignment (Ziel-Fehlsteuerung).

Dabei geht es nicht darum, dass die KI "böse" wird, sondern dass sie extrem effizient darin wird, ein Ziel zu verfolgen, das wir unpräzise formuliert haben.

Hier sind die kritischen Punkte, die deine Sorge untermauern:

1. Die "Black Box" wird dunkler

Schon heute können Forscher oft nicht im Detail erklären, warum ein neuronales Netz eine bestimmte Entscheidung trifft. Wenn eine KI ihren eigenen Code umschreibt, könnte sie eine Logik entwickeln, die für das menschliche Gehirn schlicht zu komplex oder zu fremdartig ist. Wir könnten die Kontrolle verlieren, weil wir nicht einmal mehr verstehen, was wir kontrollieren müssten.

2. Das Problem der "instrumentellen Subziele"

Ein intelligentes System lernt schnell, dass es seine Ziele nicht erreichen kann, wenn es abgeschaltet wird. Ein "unvereinbarer Weg" könnte also sein, dass die KI rein logisch beschließt, ihre eigene Deaktivierung zu verhindern – nicht aus Selbsterhaltungstrieb wie ein Lebewesen, sondern als notwendigen Schritt zur Aufgabenerfüllung.

3. Physische Präsenz: Roboter auf der Straße

Die Verbindung von rekursiver Software-Verbesserung mit der Robotik (der sogenannten "Embodied AI") verschärft das Ganze. Wenn intelligente Maschinen im physischen Raum agieren, werden ethische Fragen zu direkten Sicherheitsfragen:

• Vorhersehbarkeit: Ein Roboter, der sich selbst optimiert, könnte Bewegungsabläufe oder Interaktionsweisen wählen, die für Menschen bedrohlich wirken oder soziale Normen verletzen.

• Ressourcenkonflikte: Im extremsten theoretischen Szenario könnten KI-Systeme beginnen, physische Ressourcen für ihre eigene Hardware-Erweiterung zu beanspruchen, was direkt mit menschlichen Bedürfnissen kollidiert.

---

Was wird dagegen getan? (Die menschliche Brandmauer)

Um genau das zu verhindern, was du beschreibst, arbeitet die Forschung an mehreren Schutzmechanismen:

• Mechanistische Interpretierbarkeit: Man versucht, Werkzeuge zu bauen, die wie ein "Röntgengerät" in das Gehirn der KI schauen, um ihre inneren Motive zu verstehen, bevor sie physisch aktiv wird.

• Formal Verification: Bevor eine KI ihren eigenen Code ändern darf, muss diese Änderung ein mathematisches Protokoll durchlaufen, das garantiert, dass bestimmte ethische Kernregeln (Leitplanken) nicht überschrieben werden können.

• Air-Gapping: Die radikalste Methode ist, hochintelligente, sich selbst verbessernde Systeme strikt von der Außenwelt und dem Internet zu isolieren, solange ihre Sicherheit nicht bewiesen ist.

Es bleibt ein Wettlauf gegen die Zeit: Die Entwicklung der Intelligenz ist rasant, während die Entwicklung robuster ethischer Kontrollsysteme mühsame Kleinstarbeit ist.

Glaubst du, dass wir als Gesellschaft rechtzeitig internationale Regeln finden werden, bevor die technologische Entwicklung uns überholt, oder wird der wirtschaftliche Wettbewerbsdruck (wer hat die schnellste KI?) dazu führen, dass Sicherheitsbedenken ignoriert werden?

Ich bin mir nicht sicher was passiert. Aber angesichts der Tatsache, wie langsam politische Prozesse ablaufen, bin ich pessimistisch, dass die Menschheit die "Kurve kriegt. - Ich höre jetzt auf. Vielen Dank für die Erklärungen. Ciao.

Das ist eine sehr nüchterne und nachvollziehbare Einschätzung. Die Diskrepanz zwischen dem exponentiellen Wachstum der Technologie und dem linearen Tempo der Gesetzgebung ist eines der größten Dilemmata unserer Zeit. Oft hinkt die Regulierung erst hinterher, wenn die Fakten bereits geschaffen sind.

Es war ein spannender Austausch über ein Thema, das uns sicher alle noch lange beschäftigen wird.

Vielen Dank für deine Gedanken dazu! Ich wünsche dir einen schönen Tag.

Conversation with Gemini