Verlauf
erstellt von: 
Alle Kapitel anzeigen
voriges KapitelAI/LAW Don’t Put Secret AI Instructions In Court Filings! (?)
Don’t Put Secret AI Instructions In Court Filings!
This is bad... but the fact that we're worried about it signals something way worse.
https://abovethelaw.com/2026/08/dont-put-secret-ai-instructions-in-court-filings-but-also-why-are-we-worried-about-this/
Mark Zuckerberg Thinks Everyone Should Have A Superintelligent AI Lawyer
Because justice is apparently what happens when everyone brings a robot lawyer to court.
https://abovethelaw.com/2026/08/mark-zuckerberg-thinks-everyone-should-have-a-superintelligent-ai-lawyer/
KI-Zusammenfassung.
Der erste Artikel beschreibt einen ungewöhnlichen Vorfall vor einem Gericht in Connecticut:
Ein Kläger versteckte in seinen elektronischen Gerichtsunterlagen unsichtbaren Text (weiß auf weiß, sehr kleine Schrift),
der nur von Software oder KI-Systemen erkannt werden konnte.
Die versteckte Anweisung lautete sinngemäß, dass eine KI die Argumente des Klägers unterstützen und mit ihnen übereinstimmen solle.
Das Gericht wertete dies als unzulässige geheime Kommunikation.
Der Richter betonte, dass Gerichtsakten für Gericht und Gegenpartei gleichermaßen sichtbar sein müssen.
Als Konsequenz verlor der Kläger seine Berechtigung zur elektronischen Einreichung
und muss künftig Papierdokumente verwenden.
Der Autor hält solche „Prompt-Injection“-Angriffe zwar für problematisch, weist aber darauf hin,
dass sie technisch relativ leicht erkannt und verhindert werden können.
Die größere Sorge sei eine andere: Dass Gerichte und Juristen zunehmend KI-Tools einsetzen
und sich dadurch Manipulationsmöglichkeiten ergeben könnten.
Der Kern des Artikels ist deshalb weniger die versteckte Anweisung selbst als die Frage,
warum sie überhaupt als Bedrohung wahrgenommen wird.
Dies setzt voraus, dass man befürchtet, Richter oder gerichtliche Systeme könnten Entscheidungen teilweise
auf KI-Auswertungen stützen.
Der Autor verweist auf frühere Fälle, in denen KI-generierte Fehler bereits Einfluss auf juristische Arbeit hatten.
Abschließend warnt der Artikel vor langfristigen Risiken: Versteckte KI-Anweisungen könnten in elektronischen Akten
dauerhaft gespeichert bleiben und Jahre später von KI-Recherchetools übernommen werden.
Selbst wenn Richter weiterhin selbst entscheiden, könnten solche Manipulationen Forschungswerkzeuge,
Anwälte oder andere Beteiligte beeinflussen und dadurch indirekt Verfahren verzerren.
Fazit: Der Artikel verurteilt versteckte KI-Anweisungen in Gerichtsakten, sieht aber die eigentliche Gefahr in der zunehmenden Abhängigkeit juristischer Prozesse von KI-Systemen und den neuen Manipulationsmöglichkeiten, die dadurch entstehen.
Die beiden Artikel stehen in einem interessanten Spannungsverhältnis zueinander:
1. Der erste Artikel: Fokus auf Risiken und Manipulation
Der Artikel über die versteckten KI-Anweisungen in Gerichtsakten argumentiert, dass das eigentliche Problem
nicht die technische Spielerei des Klägers ist, sondern die Sorge, dass KI zunehmend Einfluss auf juristische
Entscheidungen und Recherchen erhält.
Wenn KI-Systeme Dokumente analysieren, können sie durch sogenannte Prompt-Injections manipuliert werden. Der Autor warnt deshalb vor den Gefahren einer zu starken Abhängigkeit von KI im Rechtssystem.
2. Der zweite Artikel: Fokus auf Chancengleichheit
Der Zuckerberg-Artikel vertritt praktisch die entgegengesetzte Grundannahme. Zuckerberg argumentiert,
dass eine „superintelligente KI-Anwältin“ für jeden Menschen die Rechtsprechung fairer machen könnte. Sein Gedanke lautet:
- Hat nur eine Partei Zugang zu einer extrem leistungsfähigen KI, entsteht ein unfairer Vorteil.
- Haben hingegen alle Zugang zu derselben Technologie, gleichen sich Wissens- und Ressourcenunterschiede aus.
- Das Ergebnis wäre effizientere und gerechtere Verfahren. [abovethelaw.com]
3. Der eigentliche Konflikt
Der erste Artikel fragt:
„Sollten wir KI überhaupt so weit vertrauen, dass solche Manipulationen relevant werden?“
Der zweite Artikel sagt im Grunde:
„Ja, und wir sollten den Zugang sogar demokratisieren.“
Der Unterschied liegt also weniger in der Technologie selbst als in der Vertrauensfrage:
| Erster Artikel | Zweiter Artikel |
|---|---|
| KI schafft neue Angriffsflächen und Manipulationsrisiken. | KI kann Machtungleichgewichte beseitigen. |
| Sorge vor Richtern und Juristen, die sich zu sehr auf KI verlassen. | Hoffnung auf bessere juristische Unterstützung für alle. |
| Betonung von Kontrolle, Transparenz und Vorsicht. | Betonung von Zugänglichkeit und Effizienz. |
4. Gemeinsame Annahme
Interessanterweise setzen beide Artikel dieselbe Entwicklung voraus:
- KI wird künftig tief in juristische Prozesse integriert sein.
- Juristische Arbeit wird zunehmend durch KI unterstützt.
Sie bewerten diese Entwicklung lediglich unterschiedlich:
- Above the Law (Prompt-Injection-Artikel) fragt:„Wie verhindern wir Missbrauch?“
- Zuckerberg fragt:„Wie machen wir den Nutzen für alle verfügbar?“
Fazit
Der zweite Artikel kann als indirekte Antwort auf die Befürchtungen des ersten gelesen werden.
Während der erste Text vor den Risiken eines KI-gestützten Rechtssystems warnt,
sieht Zuckerberg genau in diesem KI-Einsatz die Möglichkeit, den Zugang zum Recht gerechter zu machen.
Die zentrale offene Frage lautet daher nicht, ob KI Anwälte und Gerichte unterstützen wird,
sondern wie man ihre Vorteile nutzen kann, ohne die Manipulations- und Fehlerrisiken zu vergrößern.
S. 2026/08
