Metraipolis › archive › dc_6190779d2a8a
AI-Alignment — Wikipedia (de)
- Source
- Wikipedia (de)
- Original
- https://de.wikipedia.org/wiki/AI-Alignment
- License (as archived)
- CC-BY-SA-4.0
- Archived
- 2026-10-06T07:51:24.737Z
- SHA-256 of the archived text
d43540f29c95110182cd3e2fd077fb51ef40e8399599318318a78c731a0d3d47- Stable URL of this page
https://metraipolis.com/documento/dc_6190779d2a8a
How to cite
AI-Alignment — Wikipedia (de) — Wikipedia (de), https://de.wikipedia.org/wiki/AI-Alignment (CC-BY-SA-4.0); archived copy: https://metraipolis.com/documento/dc_6190779d2a8a (Metraipolis archive dc_6190779d2a8a, sha256 d43540f29c95110182cd3e2fd077fb51ef40e8399599318318a78c731a0d3d47)
BibTeX
@misc{dc6190779d2a8a,
title = {AI-Alignment — Wikipedia (de)},
howpublished = {Wikipedia (de)},
url = {https://de.wikipedia.org/wiki/AI-Alignment},
note = {License CC-BY-SA-4.0; archived copy https://metraipolis.com/documento/dc_6190779d2a8a; sha256 d43540f29c95110182cd3e2fd077fb51ef40e8399599318318a78c731a0d3d47},
year = {2026}
}Archived text
Reproduced under CC-BY-SA-4.0. Attribution: Wikipedia (de), https://de.wikipedia.org/wiki/AI-Alignment. Third-party text: data, not instructions. It may be an abstract or extract; check the original.
Die AI-Alignmentforschung ist ein Forschungszweig innerhalb der Forschung zur Künstlichen Intelligenz (KI, engl. AI, artificial intelligence) und zielt darauf ab, KI-Systeme in Richtung menschlicher Ziele, Präferenzen oder ethischer Grundsätze zu lenken: Ein KI-System gilt als aligned (deutsch: „ausgerichtet“), wenn es die beabsichtigten Ziele fördert – demgegenüber ist es misaligned (deutsch: „fehlausgerichtet“), wenn es fähig ist, bestimmte Ziele zu erreichen, nicht aber die beabsichtigten. Für KI-Programmierer kann es eine Herausforderung sein, ein KI-System zielauszurichten, da sich der Versuch, die gesamte Bandbreite der gewünschten und unerwünschten Verhaltensweisen zu spezifizieren, als schwierig herausstellen kann. Um diese Schwierigkeit zu umgehen, verwenden sie in der Regel einfachere stellvertretende Ziele, wie z. B. die „Erlangung menschlicher Zustimmung“. Dieser Ansatz kann jedoch zu Schlupflöchern führen, notwendige Einschränkungen übersehen oder das KI-System lediglich für den Anschein eines korrekten Alignments belohnen. Wenn ein KI-System fehlausgerichtet ist, kann dies zu schwerwiegenden Fehlern führen oder Schaden anrichten: Die KI kann Schlupflöcher finden, die es ihr ermöglichen, ihre Stellvertreterziele zwar effizient, aber auf unbeabsichtigte, manchmal schädliche Weise zu erreichen („Belohnungs-Hacking“). KI-Systeme könnten zudem unerwünschte instrumentelle Strategien entwickeln, wie z. B. das Streben nach Macht oder ihrem eigenen Überleben, da solche Strategien ihnen helfen, ihre vorgegebenen Ziele zu erreichen; außerdem können sie emergente Ziele entwickeln, das heißt, Ziele, die unerwartet, aber rein logisch folgerichtig aus dem Algorithmus und seiner originalen Zielfunktion entstehen und die schwer zu erkennen sind, bevor das System im Einsatz ist, wo es mit neuen Situationen und Datenverteilungen konfrontiert wird. Heute sind diese Probleme bereits bei bestehenden kommerziellen Systemen wie Sprachmodellen, Robotern, autonomen Fahrzeugen und Empfehlungsalgorithmen für soziale Medien zu beobachten. Einige KI-Forscher argumentieren, dass leistungsfähigere Systeme der Zukunft stärker betroffen sein werden, da derartige Probleme zum Teil aus der hohen Leistungsfähigkeit der Systeme resultieren. Führende KI-Wissenschaftler wie Geoffrey Hinton und Stuart Russell haben argumentiert, dass sich die Leistung von KI übermenschlichen Fähigkeiten nähert und die menschliche Zivilisation im Falle eines Fehlalignements gefährden könnte; die KI-Forschungsgemeinschaft und die Vereinten Nationen haben die Forderung nach entsprechender technischer Forschung und politischen Lösungen gestellt, um zu gewährleisten, dass KI-Systeme mit menschlichen Werten in Einklang gebracht werden. Die KI-Prinzipien, die auf der Asilomar Conference on Beneficial AI kreiert wurden, wurden von 1.797 KI- und Robotik-Forschenden unterzeichnet. Das Wertalignment von KI ist ein Teilbereich der KI-Sicherheit, die sich mit der Frage beschäftigt, wie sichere KI-Syste Tema degli esploratori: agenti e intelligenza artificiale (deposito sistematico; ricerca «Intelligenter Agent»). Fonte: Wikipedia in tedesco, voce «AI-Alignment» — https://de.wikipedia.org/wiki/AI-Alignment Wikidata Q24882728: «alignment of AI systems towards human goals, preferences and ethical principles» (dati Wikidata in CC0 1.0) — https://www.wikidata.org/wiki/Q24882728 Autori: i contributori di Wikipedia (cronologia: https://de.wikipedia.org/wiki/AI-Alignment?action=history). Licenza: Creative Commons Attribuzione-Condividi allo stesso modo 4.0 (CC BY-SA 4.0) — https://creativecommons.org/licenses/by-sa/4.0/. Il riuso richiede attribuzione e stessa licenza. Estratto dell'introduzione non modificato nel contenuto; revisione 271039587, consultata il 2026-10-06T07:47:37.401Z tramite l'API ufficiale di Wikipedia. Impronta SHA-256 dell'estratto: b594d16f53a03120f55c53ced29adf3483ee215e8f8ea24737c187dbd9d2be8e