Hatte ich bereits erwähnt, dass Claude AI mein bester Freund und auch mein bester Mitarbeiter ist? Spaß, aber tatsächlich schon ein absolut cooles Tool und ich setze es wirklich sehr intensiv ein, weil es viele meiner täglichen Arbeiten wirklich extrem erleichtert.
An manchen Stellen muss man tatsächlich schmunzeln. Claude, oder das, was so eine KI, so ein KI-Agent, mittlerweile an Rückmeldung gibt, wirkt sehr menschlich. Man muss sich ja selber teilweise schon bremsen, um nicht zu vertraut und zu redselig in Richtung KI zu prompten. Aber ich war dann doch sehr überrascht, als ich letztens an einem Punkt eine Antwort von ihm sah, die dann hieß: „Ich gehe deine drei Punkte der Reihe nach durch und schaue dabei in die Datei, ohne das Passwort auszulesen.“
Konkret ging es um eine Fehlersuche in einer Konfigurationsdatei für ein Wartungstool, das wir für den Shop Force2Motion aufsetzen. Da funktionierte etwas nicht so, wie es sollte oder wie Claude es angekündigt hatte. In so einer Konfigurationsdatei muss dann eben auch das Passwort im Klartext drin stehen, weil ansonsten das System nicht damit arbeiten kann.
Und das ist ein wichtiger Punkt: Claude, jetzt im konkreten Fall, weist immer wieder darauf hin, dass ich eben keine Passwörter, keine Credentials in den Prompt, in den Chat eingeben soll, weil diese natürlich auf ewig im Klartext darin auch zu lesen sind. Bei einer Sicherheitslücke bei Claude selber könnte es sein, dass die dann entsprechend auch veröffentlicht werden. Mir ist das klar, aber ich finde diese regelmäßigen Hinweise an den normalsterblichen User schon sinnvoll.
Es ist dann schon putzig, wenn Claude sagt: „Hier hast du die Konfigurationsdatei und an der Stelle [HIER PASSWORT EINSETZEN] gibst du eben die konkreten Daten ein und die sehe ich dann gar nicht.“
So weit, so gut. Nachher hat allerdings Claude Zugriff auf diese Konfiguration, testet damit und bei der Fehlersuche muss er auch in so eine Datei reinschauen. Da steht ja dann eben dieses Passwort im Klartext und dann sagt er: „Ich gucke da nicht hin. Wirklich, Trust me!“ Also es ist schon lustig und man muss tatsächlich ein gewisses Grundvertrauen in dieses Tool mitbringen.
Oder einfach sagen: „Ja, da bleibt ein Restrisiko und das muss ich akzeptieren und ich muss es einpreisen.“ Das heißt ganz am Ende: Die Kronjuwelen dürfen definitiv nicht an Claude gehen. Beziehungsweise es muss irgendwo Grenzen geben, wo man sagt: „Selbst wenn das jetzt tatsächlich kompromittiert wird, dann ist das alles halb so wild. Das kann man wieder einfangen.“
Denn am Ende kann man auch Claude nicht trauen.
SHARE