[...]Ich würde durchaus erwarten, dass der Übergang zur "strong" KI schlagartig erfolgt und damit auch überraschend. Und ich sehe wirklich nicht warum es eine solche nie geben sollte.
[...]
Magst Du konkretisieren was Du mit dem überraschendem Übergang zur strong KI meinst? Die Vorstellung, dass der Entwicklungssprung für uns "Normalos" überraschend kommt oder der, dass der auch für die Forscher überraschend kommt. Dass jemand also noch ein paar Zeilen programmiert und damit bekommt das Programm eine Art Bewußtsein mit Selbsterhaltungstrieb, eigener Evolution oder Ähnlichem?
Ich meinte schon insgesamt überraschend, also nicht nur für mich. Sondern auch für die Forscher selbst. Man hat ja mal die Top Experten in dem Feld befragt, ob und wann es Super KI geben wird. Nahezu alle wsren (abweichend vom exilroten) dee Meinung: Ja. Beim Zeitpunkt wollte sich kaum einer der Experten festlegen, die wenigen haben sehr unterschiedliche Angaben gemacht. Für mich ist das ähnlich wie beim echten Leben. Wir kennen Bausteine wie Aminosäuren und Energie, wie schnell oder oft daraus Leben entsteht, ist aber unklar.
Es wurde ja mal der turing test erdacht, um KI abzugrenzen. Ich bin mir nicht sicher mit google duplex nicht an oder aber zumindest nah an diesem Punkt angekommen sind.
Deep learning können die Systeme inzwischen. Es ist halt nur die Frage, wann der initiale Schritt zu eigenem Bewusstsein geschieht. Oder vielleicht sind die KI bereits soweit aber “Any AI smart enough to pass a Turing test is smart enough to know to fail it.” Und es flackert nur kurz auf...