Nein, die KI von Google ist nicht bewusst

entsprechend Augenöffnende Geschichte In der Washington Post vom Samstag sagte ein Google-Ingenieur, dass nach Hunderten von Interaktionen mit einem unveröffentlichten ausgeklügelten künstlichen Intelligenzsystem angerufen wurde LambdaEs wurde angenommen, dass das Programm einen Bekanntheitsgrad erreicht hat.

LaMDA, was für Language Model for Dialog Applications steht, ist eines von mehreren großen KI-Systemen, die mit großen Textschwaden aus dem Internet trainiert wurden und auf schriftliche Eingabeaufforderungen reagieren können. Sie haben im Wesentlichen die Aufgabe, Muster zu finden und vorherzusagen, welches Wort oder welche Wörter als nächstes kommen sollten. Solche Systeme wurden zunehmend gut Beantworten von Fragen und Schreiben auf eine Weise, die überzeugend menschlich erscheinen mag – und Google selbst LaMDA stellte diesen vergangenen Mai in einem Blogbeitrag vor Als einer kann er sich „frei fließend mit einer scheinbar unendlichen Anzahl von Themen beschäftigen“. Aber die Ergebnisse können auch lächerlich, seltsam, nervig und anfällig für Ablenkung sein.

Ein Google-Sprecher bestätigte, dass Lemoine im Verwaltungsurlaub bleibt. Laut The Washington Post wurde er wegen Verstoßes gegen die Vertraulichkeitsrichtlinie des Unternehmens beurlaubt.

Lemoine war am Montag für eine Stellungnahme nicht erreichbar.

Das anhaltende Aufkommen leistungsstarker Computerprogramme, die auf Deep Big Data trainiert sind, hat Bedenken hinsichtlich der Ethik geweckt, die die Entwicklung und Verwendung dieser Technologie regeln. Und manchmal werden Entwicklungen aus der Perspektive dessen gesehen, was kommen könnte, und nicht aus dem, was derzeit möglich ist.

In einem Interview mit CNN Business am Montag sagte Marcus, man könne sich Systeme wie LaMDA am besten als eine „verherrlichte Version“ eines Autocomplete-Programms vorstellen, mit dem man das nächste Wort in einer Textnachricht vorhersagen könnte. Wenn du schreibst „Ich habe wirklich Hunger, also möchte ich gehen“, könnte er „Restaurant“ als dein nächstes Wort vorschlagen. Dies ist jedoch eine Vorhersage, die mithilfe von Statistiken erstellt wurde.

„Niemand sollte denken, dass die Autovervollständigung, selbst bei Steroiden, bewusst ist“, sagte er.

„Was passiert, ist, dass es so einen Wettlauf gibt, mehr Daten zu verwenden, mehr Computer zu verwenden, um zu sagen, dass Sie dieses generische Ding erstellt haben, das Sie alle kennen, alle Ihre Fragen beantworten oder was auch immer, und das ist die Trommel, die Sie gespielt haben“, sagte Gebru . . „Also, wie überrascht es dich, wenn diese Person es auf die Spitze treibt?“

In seiner Erklärung stellte Google fest, dass LaMDA 11 „ausgezeichnete Überprüfungen der KI-Prinzipien“ sowie „rigorose Forschung und Tests“ in Bezug auf Qualität, Sicherheit und die Fähigkeit, faktenbasierte Daten zu erstellen, durchlaufen hat. „Natürlich untersuchen einige in der breiteren KI-Community das langfristige Potenzial bewusster oder allgemeiner KI, aber es macht keinen Sinn, dies zu tun, indem sie aktuelle Gesprächsmodelle verkörpern, die nicht bewusst sind“, sagte das Unternehmen.

„Hunderte von Forschern und Ingenieuren haben Gespräche mit Lambda geführt, und uns ist niemand bekannt, der so umfangreiche Behauptungen aufstellt oder Lambda verkörpert wie Blake“, sagte Google.