Ah, ich sehe, zwischenzeitlich gab es hier ja ähnliche Themen wie im Parallelchat …
Noch ein paar Gedanken/Anmerkungen von mir:
Auch wenn die Aussagen von @user0 oben teilweise “personalisiert” (was man vielleicht anders formulieren könnte) sind, nehme ich an, dass das eher verallgemeinernd gemeint ist. In diesem Falle würde ich mich auch bezüglich “Tugendwächter” weitgehend anschließen … Ethik und Moral sind ja nicht abgeschlossen, auch wenn das jede Generation von Menschen denkt … Es gibt da einen ständigen Wandel und eine ständige dynamische Weiterentwicklung. Genauso wie wir eine vollkommen andere Sicht von Leben und auf “Gut” und “Böse” haben, wie ein Wurm (oder der “normale Mensch” vor 200 Jahren), muss man wohl davon ausgehen, dass “transzendierte” Wesen eine viel andere, erweiterte, umfassendere Sicht von Leben und auf “Gut” und “Böse” haben als wir aktuell.
Was weiß ein Wurm schon von Ethik und Moral?
Was weiß ein Mensch schon von Ethik und Moral?
Wir wissen nicht, was kommt und wir müssen annehmen, dass das, was kommt für aktuelle Menschen unvorstellbar und unverständlich ist, dadurch ist ja auch im Wesentlichen der Begriff “Technologische Singularität” definiert. Für aktuelle Menschen werden Handlungen von künftigen Wesen genauso unverständlich, magisch bis absurd sein wie menschliche Handlungen für Affen oder Würmer; teilweise können ja selbst Menschen die Handlungen und das Denken von anderen Menschen nicht nachvollziehen …
Aber, wir müssen auch davon ausgehen, dass die Entscheidungen künftiger Wesen in der Regel in irgendeiner Form “besser” sein werden als unsere heute, auch, wenn wir nicht verstehen können, warum. Genauso, wie wir ja auch davon ausgehen, wass wir als Menschen “bessere” / “vernünftigere” Entscheidungen treffen können als ein Wurm (auch, wenn das der Wurm nicht verstehen kann).
Freilich wird das viele Menschen im Fall einer “KI-Legislative” oder “KI-Judikative” nicht zufriedenstellen …
Andererseits, um auf
zu antworten:
Warum würde denn überhaupt eine KI befragt werden? Warum macht man denn überhaupt Gerichtsprozesse (auch mit menschlichen Richtern)?
Doch, weil man denkt, dass die “höhere Instanz” zu “besseren” / “gerechteren” (was immer das auch hießt) Entscheidungen gelangt …
Ich denke, extrem wichtig wäre, damit KI-Entscheidungen akzeptiert werden, dass die KI ihre Entscheidungen für die Menschen verständlich sehr ausfürlich und genau erklären kann. Vielleicht funktioniert das nur teilweise (einem Wurm kann man ja schließlich auch nur begrenzt Sachverhalte verständlich machen), aber ich denke, es wäre wirklich wichtig für die allgemeine Akzeptanz von KI-Entscheidungen.
Trotzdem würden wohl nicht alle KI-Entscheidungen (je nach dem, wie fortschrittlich die KI ist), von Menschen akzeptiert und angenommen werden …
Wahrscheinlich hat man tatsächlich nur sehr begrenzt eine Wahl. Aber das beschriebene Szenario muss ja gar nicht mal schlecht sein. Wenn einige Menschen weiterhin in ihrer alten Lebens- und Denkweise weise verharren wollen, kann das durchaus für beide Seite zufriedenstellend sein, insbesondere, wenn man in die Richtung Individualisierung denkt und irgendwann die verschiedenen Lebenswelten ganz einfach nicht mehr kompatibel sind …
Ich denke dann immer gerne ein paar Schritte zurück: Was könnte ich dem Wurm aus dem heimischen Garten in einer Art Terrarium nicht für ein tolles Leben bieten: unbegrenzt Futter, keine Feinde usw. Trotzdem würde sich der Wurm einerseits erst einmal gegen die Wegnahme seiner Garten-Heimat wehren. Andererseits sammle ich auch nicht die ganzen Würmer aus meinem Garten ein, auch, wenn ich es könnte …
Also zusammenfassend vereinfacht: Der Wurm will nicht aus seiner Heimat und ich will mir auch gar nicht die Arbeit machen, den Wurm zu “erretten” bzw. ihn von den Vorteilen der neuen Umgebung zu überzeugen …
Vielleicht mache ich es mir hier zu einfach und man kann hier natürlich unterschiedlich argumentieren.
Für mich wäre es ein akzeptabler Kompromiss, wenn für alle Menschen jederzeit das Angebot besteht, aus dem “Reservat” “auszubrechen” (oder wieder dort hin zurückzukehren) und jederzeit die Möglichkeit besteht, sich über andere Lebensmöglichkeiten zu informieren, damit sich die Menschen möglichst frei entscheiden können (wohl wissend, das man niemals wirklich ganz “frei” ist) …
Na ja, wir werden sehen, was kommt …
Finde ich sehr interessant.
Wohl nicht gleich morgen umsetzbar.
Aber vielleicht kannst du ja dazu ein bisschen mehr schreiben?
Und wenn sich mit “individualisierten Gesetzen” jeder gerecht behandelt fühlt? 
Das Problem ist eben, wie ja schon festgestellt wurde: Gerechtigkeit ist subjektiv.
Aber sind wir nicht schon seit Jahrhunderten auf dem Weg, dieser “Subjektivität” oder “Relativität” immer besser gerecht zu werden?
Wenn man sich vorstellt, dass am Anfang die genannten 10 Gebote da waren und dies mal vergleicht mit der umfangreichen Gesetzgebung heute … Heute gibt es so viele Sonderregelungen, Ausnahmen, Spezialfälle usw., die ganz besondere Konstellationen berücksichtigen. Wieso sollte das nicht in Zukunft so weitergehen bzw. wieso sollte man dies nicht anstreben?
Mir erscheint Individualisierung eine ganz wichtige aktuelle und künftige Entwicklung zu sein, in praktisch allen Bereichen …
Abschließend möchte ich noch einen Gedanken von @Radivis zum aktuellen Rechtssystem einwerfen (ist schon etwas her), und zwar:
(siehe https://forum.fractalfuture.net/t/individuelle-volljahrigkeit/527/5)
… Ich glaube, das muss man bei allen Gerechtigkeitsdiskussionen aktuell eben auch (noch) beachten …