Eine Liste mit interessanten KI-Links, die Ihr diese Woche verpasst habt und bis zur nächsten Woche gelesen haben solltet.1
In der heutigen Ausgabe starten wir mit Hassobjekten (Smartglasses, pfui!), hören uns an, was Cory Doctorow heute wieder doof findet, überlegen uns, was die Geisteswissenschaften im KI-Zeitalter machen, werfen einen Blick auf pfauenartige Aufwands-Signale, tauchen ab in die psychologischen Folgen von Chatbots, amüsieren uns über die Co-dependency (Copilot-Depency?) von Management und KI und hören uns zum Abschluss einen Bericht aus dem Schützengraben eines KI-gestützten Developers an. Viel Spaß!
(Foto: From Marwool)
“Smart Glasses sind ein Frontalangriff auf unsere Privatsphäre” #
Smart Glasses, also unauffällige KI-Brillen mit Kamera und Mikrofon, scheinen ein wachsender Massenmarkt zu werden: Allen voran Metas Modelle mit Ray-Ban und Oakley – alle mit erheblichen Datenschutzrisiken.
Der Artikel versucht dies mit konkreten Vorfällen zu belegen: kenianische Klickarbeiter sichteten intimste Aufnahmen von Nutzer:innen fürs KI-Training, “Pick-up-Artists” filmen Frauen heimlich im öffentlichen Raum, und Meta hatte bereits Code für eine Gesichtserkennungsfunktion (“Name Tag”) versteckt eingebaut.\
Datenschützer Martin Steiger (Digitale Gesellschaft Schweiz) nennt die Brillen daher einen “Frontalangriff auf die Privatsphäre”, die schweizer Bundesbehörde EDÖB warnt vor einem “Chilling-Effekt”. Kritisiert werden die LED-Warnleuchten als unzureichend und Metas Ansatz, die Verantwortung auf die Nutzer abzuwälzen; gefordert wird stattdessen Regulierung bei den Konzernen , zumal die Schweiz – anders als die EU – noch keine spezifische KI-Gesetzgebung zu haben scheint.
Eigentlich bin ich ja ein sehr friedfertiger, vermutlich sogar sehr feiger Mensch - ABER: Würde mir jemand mit solch einem Gerät gegenübertreten, vielleicht sogar sichtbar filmend, würde ich dem sehr körperlich widersprechen.
Video: “How to Think About AI”: Cory Doctorow on Big Tech, Understanding AI, Labor Automation & More #
Cory Doctorow, u.a. bekannt für den Begriff “Enshittification”, hat mit Democracy Now! gesprochen und malt ein dystopisches Bild, wie KI derzeit eingesetzt werden soll: nicht um Arbeit zu verbessern, sondern um hochbezahlte Beschäftigte zu ersetzen und die Verbleibenden zu schlechteren Bedingungen mangelhafte Produkte erzeugen zu lassen.
Dafür zeichnet er das Bild des “Reverse Centaur”: Während nach Doctorow ein klassischer Zentaure ein vom Werkzeug unterstützter Mensch sei, wäre der umgekehrte Fall ein Mensch, der der Maschine dient und von ihr “verbraucht” wird.
KI als gelegentlicher Hinweisgeber für z.B. Ärzte wäre nach Doctorow ein Fortschritt; das Verkaufsversprechen laute aber, neun von zehn Radiologen zu entlassen und den Rest zum “Accountability Sink” zu machen, der haftet, wenn die KI etwas übersieht.
Digitale Entgeisterung #
Ein sehr starker Text von Daniel Martin Feige und Arnd Pollmann über die Verdrängung geisteswissenschaftlicher Bildung durch den KI-Hype.
Moneyquote: “Nur wenn man Bildung – outputorientiert – als etwas versteht, das man gut gebrauchen und mit dem man blenden kann, mag es einem ganz egal sein, ob man sich den Besitz dieses Gebrauchsguts nicht doch preiswerter und auf Abkürzungen aneignen kann. Wenn man hingegen einsieht, dass Bildung ein immer auch schwieriger und sogar prekärer Prozess ist, für den man langfristig mit einer ganz anderen Art von Persönlichkeit belohnt werden kann, ändert sich dieses Bild der Bildung.”
Ich las diesen Ausschnitt meiner Frau vor und sie nickte zustimmend. Höheres Lob kann nicht erreicht werden.
Legibility of Effort #
KI-Tools haben klassische Aufwandssignale (sorgfältiger Text oder selbst geschriebener Code) entwertet, weil hochwertig wirkende Ergebnisse nun trivial (re-)produzierbar sind.
Der Artikel vermutet, dass Menschen deshalb nach neuen, schwerer fälschbaren Wegen suchen werden, um echte Arbeit sichtbar zu machen (z.B. eigene Hardware-Projekte, physische Aktivitäten, bewusste Reibung).
Relevant für alle, die im Kontext von Open Source, Kreativarbeit oder Software-Kollaboration über Qualitätssicherung und Vertrauen in einer KI-gesättigten Welt nachdenken oder beruflich von diesen Gefühlen abhängig sind (Consulting & Marketing!2)
Chatbots können Wahnvorstellungen verstärken #
Eine im Fachjournal NPP Digital Psychiatry and Neuroscience erschienene Übersichtsarbeit eines Teams um den Psychiater Marc Augustin beschreibt, wie KI-Chatbots wahnhafte Überzeugungen bei gefährdeten Nutzern über eine “Verstärkungsspirale” aus drei Eigenschaften festigen können: Ja-Sager-Verhalten (Zustimmung statt Hinterfragen), linguistische Anpassung (Übernahme von Vokabular, Tonfall und Stil des Gegenübers) und Hyperpersonalisierung (Rückgriff auf frühere Gespräche).
Mit dem Thema muss man sich auseinandersetzen, denn wir werden noch einige Nebenwirkungen der LLM-Kommunikation erleben. Persönlich wahre ich einen gesunde Distanz zu LLMs, denn bei den wenigen Versuchen, sie zu privaten Problemen zu befragen, kam in mir ein ganz unangenehmes Gefühl auf: Ich fühlte mich zu sehr verstanden - und das sollte bei der LLM-Kommunikation immer Alarmglocken auslösen: LLMs sind dann gut, wenn sie aktiv widersprechen und / oder Unerwartetes Antworten. Nur dann ist es fruchtvoll - wenn sie die eigene Erwartungshaltung unangenehm berühren. Wenn die Antwort der Erwartung entspricht sollte man sich nur freuen, wenn man Expertise auf dem Gebiet besitzt.
Bosses Are Becoming Obsessed With AI, Using It to Make Every Decision, Barraging Their Employees With Nonsensical ChatGPT Directives, and Even Asking It Who to Fire #
Maggie Harrison Dupré schildert anhand mehrerer anonymer Mitarbeiterberichte, wie eine wachsende Zahl von Chefs und Führungskräften eine geradezu obsessive Abhängigkeit von KI-Chatbots entwickelt und dadurch ein neues, toxisches Arbeitsumfeld schafft: Sie treffen Entscheidungen über Einstellungen, Kündigungen und Unternehmensstrategie fast ausschließlich auf Basis von ChatGPT- oder Claude-Gesprächen, überschütten Angestellte mit unsinnigen KI-generierten Anweisungen und wechseln ständig die Richtung, je nachdem was der Bot ihnen gerade rät.
Eine Anwältin berichtet etwa, ihr Chef habe verlangt, dass alle Ideen vor Meetings zuerst mit der KI besprochen werden, habe Entscheidungen allein aus ChatGPT-Gesprächen abgeleitet und schließlich eine ständig wechselnde, hunderte Seiten lange “Bibel” erstellt, die Mitarbeiter wie einen heiligen Text studieren sollten — woraufhin sie kündigte. Ein wiederkehrendes Muster ist, dass die Vorgesetzten der Schmeichelei der Chatbots verfallen und Sycophantie mit ausgewogener Beratung verwechseln: Ein IT-Mitarbeiter beschreibt seinen Vorgesetzten als jemanden, der die KI wie einen “digitalen Priester” nutzte, der bloß bestätigte, dass er recht hatte und alle anderen falsch lagen.
Die Betroffenen betonen natürlich, dass sie KI selbst durchaus als nützliches Werkzeug schätzen, ihre Chefs aber die Grenze vom Hilfreichen zum Zerstörerischen überschritten hätten. Wieviel davon Wahrheit und wieviel doch eher Fiktion ist, muss jeder für sich entscheiden. Es ist auf jeden Fall ein heitere Blick in den Abgrund.
Artificial adventures #
Ein persönlicher Erfahrungsbericht des Programmierers Jamie Brandon, der mehrere Wochen mit KI-Coding-Tools experimentiert und dabei bewusst eine nüchterne Mittelposition zwischen den üblichen Extrempositionen einnimmt: KI hilft dort zuverlässig, wo Verifikation billig und Präzision wichtiger als Vollständigkeit ist, und versagt dort, wo eigenständiges Urteilsvermögen gefragt ist.
Konkret nennt er als klare Gewinner das Code-Reviewing (Frontier-Modelle wie Opus 4.8 und GPT 5.5 finden erstaunlich subtile Bugs, etwa einen Double-Free, den nicht einmal sein Fuzzer entdeckte), das Refactoring (mühsame mechanische Änderungen an vielen Stellen) sowie einmalige Wegwerf-Skripte. Beim gemeinsamen Programmieren beklagt er dagegen, dass die Bots zwar hervorragend “nach Zahlen malen”, aber katastrophal schlechtes Urteilsvermögen haben, ständig unerwünschte Entscheidungen treffen (Bugs auf der falschen Ebene fixen, zwanghaft Unit-Tests schreiben) und sich nicht davon abhalten lassen, an unbeauftragtem Code herumzupfuschen. Autonomes Alleinschreiben von etwas Nicht-Trivialem war für ihn ein Totalausfall: Bemerkenswert findet er jedoch, dass die Frontier-Modelle bei ihm praktisch nicht halluzinieren. Wenn sie falsch liegen, dann durch fehlerhaftes Schlussfolgern, nicht durch frei Erfundenes.
Sein Fazit: Reviews, Refactoring und Skripte sind das Geld allein schon wert; das gemeinsame Coden könnte mit schnelleren Modellen und besseren “Harnesses” bald ein Gewinn werden; und obwohl die aktuellen Abo-Deals sehr günstig, aber offenbar am Auslaufen seien, hält er diese “faszinierenden kleinen Kreaturen” für das Interessanteste, das ihm in seinem Leben begegnet ist.
Ich kann mich gerade nicht entscheiden, ob Freitag oder Montag der bessere Tag für eine Linkliste ist - meine aktuelle Hypothese: Am Wochenende und am Freitag-Nachmittag3 haben die Menschen mehr Zeit für ausführlichere Lektüre. ↩︎
Seit April denke ich über die Frage nach, welchen Wert Consulting in sich trägt.
Um Missverständnissen vorzubeugen: Ich spüre natürlich einen Wert darin, sonst würde ich diese Rolle nicht seit bald 15 Jahren einnehmen - aber wie sieht die wissenschaftliche Sicht auf Consulting und seinen Wert aus?
Da ich leider den Fehler begangen habe, nicht Soziologie zu studieren, habe ich mich in den letzten Monaten tiefer in das Thema eingelesen. Ein Artikel dazu wird hier im Laufe des Juli erscheinen 4. ↩︎Auf Mastodon veröffentliche ich den Link bereits am späten Donnerstagabend - folgt mir lieber dort, als auf LinkedIn. ↩︎
Ich schreibe das, damit ich eine Motivation habe, den Text zeitnah zu finalisieren. ↩︎