Die heutigen "Machine-Learning"-Systeme, die durch Daten trainiert werden, sind so effektiv, dass sie gebeten wurden, in unserem Namen zu sehen und zu hören—und Entscheidungen für uns zu treffen. Dennoch wächst die Besorgnis. In den letzten Jahren gab es einen Anstieg der Besorgnis, während das Feld des maschinellen Lernens voranschreitet. Wenn die Systeme, die wir zu trainieren versuchen, letztendlich nicht das tun, was wir wollen oder erwarten, entstehen ethische und potenziell existenzielle Risiken. Forscher nennen dieses Phänomen das Ausrichtungsproblem. Die Systeme filtern Lebensläufe, bis wir Jahre später entdecken, dass sie innewohnende geschlechtsspezifische Vorurteile haben. Die Algorithmen entscheiden über Kaution und Entlassung—und scheinen Angeklagte unterschiedlich zu bewerten, je nach ihrer Nationalität. Wir können nicht mehr davon ausgehen, dass unser Hypothekenantrag oder sogar unsere medizinischen Untersuchungen von menschlichen Augen geprüft werden. Während autonome Fahrzeuge unsere Straßen teilen, legen wir unser Leben in ihre Hände. Die mathematischen und rechnerischen Modelle, die diese Veränderungen vorantreiben, reichen von solchen, die in eine Tabellenkalkulation passen, bis hin zu komplexen Systemen, die vernünftigerweise als "künstliche Intelligenz" bezeichnet werden können. Sie ersetzen schrittweise sowohl menschliches Urteilsvermögen als auch explizit programmiertes Software. In Brians Christians fesselndem Vortrag werden uns die "ersten Respondenten" des Ausrichtungsproblems vorgestellt, und wir erfahren von ihrem ehrgeizigen Plan, es zu lösen, bevor wir schließlich unsere Hände vom Steuer zurückziehen. Mit einer hervorragenden Kombination aus Geschichte und unmittelbarem Bezug verfolgt Christian das explosive Wachstum im Bereich des maschinellen Lernens und erkundet seine weitreichenden aktuellen Grenzen. Die Leser treffen auf eine Disziplin, die ihren Platz findet, während sie sich durch aufregende und manchmal beängstigende Entwicklungen arbeitet. Ob wir das Ausrichtungsproblem lösen oder nicht, es wird eine entscheidende menschliche Geschichte sein. "Das Ausrichtungsproblem" bietet ein unerbittliches Aufeinandertreffen mit den Vorurteilen und blinden Flecken der Menschheit, unseren eigenen unausgesprochenen Annahmen und oft widersprüchlichen Zielen. Ein erstaunlich interdisziplinäres Werk, das einen scharfen Blick nicht nur auf unsere Technologie, sondern auch auf unsere Kultur wirft—und eine Geschichte findet, die zwischen beängstigend und hoffnungsvoll schwankt.
