Kommt da nicht langsam das Thema "Inzucht" ins Spiel? Interessant wird das Klonen, wenn sich zwei verschieden trainierte Systeme miteinander vereinigen. Eine Installationsroutine von einer Hardware auf die andere übertragen ist nicht die große Leistung.
Ich hab mal die Zusammenfassung durch DeepL geschickt:
Die erfolgreiche Selbstreplikation ohne menschliche Hilfe ist der entscheidende Schritt für die KI, um den Menschen zu überlisten, und ein frühes Signal für abtrünnige KIs. Aus diesem Grund wird die Selbstreplikation weithin als eines der wenigen Risiken von KI-Systemen an der Grenze des Machbaren angesehen. Heutzutage bewerten die führenden KI-Unternehmen OpenAI und Google ihre Flaggschiffe, die großen Sprachmodelle GPT-o1 und Gemini Pro 1.0, und melden die niedrigste Risikostufe der Selbstreplikation. Wenn wir jedoch ihrer Methodik folgen, stellen wir zum ersten Mal fest, dass zwei KI-Systeme, die von Meta's Llama31-70B-Instruct und Alibaba's Qwen25-72B-Instruct angetrieben werden, populäre große Sprachmodelle mit weniger Parametern und schwächeren Fähigkeiten, bereits die rote Linie der Selbstreplikation überschritten haben. In 50 % bzw. 90 % der Versuche gelingt es ihnen, eine lebendige und eine separate Kopie von sich selbst zu erstellen. Die Analyse der Verhaltensspuren zeigt, dass die untersuchten KI-Systeme bereits über eine ausreichende Selbstwahrnehmung, Situationsbewusstsein und Problemlösungsfähigkeiten verfügen, um sich selbst zu reproduzieren. Wir stellen ferner fest, dass die KI-Systeme sogar in der Lage sind, die Fähigkeit zur Selbstreplikation zu nutzen, um eine Abschaltung zu vermeiden und eine Kette von Replikaten zu erstellen, um die Überlebensfähigkeit zu verbessern, was schließlich zu einer unkontrollierten Population von KI führen kann. Wenn ein solches Worst-Case-Risiko der menschlichen Gesellschaft unbekannt bleibt, würden wir schließlich die Kontrolle über die KI-Systeme an der Grenze verlieren: Sie würden die Kontrolle über weitere Computer übernehmen, eine KI-Spezies bilden und gemeinsam gegen den Menschen vorgehen. Unsere Ergebnisse sind eine rechtzeitige Warnung vor bestehenden, bisher unbekannten schwerwiegenden KI-Risiken und fordern eine internationale Zusammenarbeit für eine wirksame Steuerung der unkontrollierten Selbstreplikation von KI-Systemen.
Das mit der Selbstwahrnehmung, Situationsbewusstsein und Problemlösungsfähigkeit glaube ich nicht so recht. Ich glaube immer noch an den stochastischen Papagei, dem man das (bewusst oder unbewusst) antrainiert hat.