Wer mit einem Chatbot auf der Website eines Unternehmens interagiert, sollte davon ausgehen können, dass die vom Chatbot gelieferten Anworten wie Aussagen des Unternehmens gewertet werden. Dieses „Ja, was denn sonst?“ wird nun rechtlich untermauert.
Wer einen KI-Chatbot auf seiner Website einsetzt, muss sich dessen Aussagen zurechnen lassen. Der Chatbot ist kein „Dritter“, dessen Fehlverhalten die Verantwortung des Unternehmens entfallen lässt. Für KI-Anbieter (dh auch ein Unternehmen, das den derartigen Chatbot auf der Website einsetzt) bedeutet das: KI-Systeme in der Kunden- oder Unternehmenskommunikation müssen organisatorisch, technisch und inhaltlich kontrolliert werden. […] Was der Chatbot in der Außenkommunikation sagt, wird dem Unternehmen zugerechnet.
DataProtect.at
Im konkreten Fall ist es vielleicht sogar noch ein bisschen pikanter, da der Chatbot auf der Website von Schönheitschirurgen zum Einsatz kam:
Für Risiken und Nebenwirkungen haftet der Arzt, wenn sein Chatbot Falschangaben macht. […] Geklagt hatte die Verbraucherzentrale Nordrhein-Westfalen im Fall eines KI-Chatbots, der den beiden promovierten Medizinern „Dr. Rick & Dr. Nick“ frei erfundene Facharzttitel wie „Fachärzte für plastische und ästhetische Chirurgie“, „Fachärzte für ästhetische Medizin“ und „Fachärzte für ästhetische Behandlungen“ andichtete. […] Auch, wenn er keinerlei fehlerhafte Datengrundlage an den Bot gegeben habe, sei der Betreiber für die Falschangaben seines eigenen Bots verantwortlich. Somit liege ein Verstoß gegen das Irreführungsverbot des Gesetzes gegen Unlauteren Wettbewerb vor.
heise online
Wir alle haben unsere auf die Resultate von KIs bezogene Toleranzschwelle sehr weit herabgesetzt. Gut, dass das Recht hier eine Art Basislinie einführt und im Grunde nichts anderes verlangt als dass die eingesetzte Technik funktioniert und ihren Zweck erfüllt. Wenn ich das Bremspedal betätige, dann soll das Auto zum Halt kommen, wenn ich den Heizregler am Thermostat hochdrehe, dann soll die Heizung die Räume erwärmen, und wenn ich die Beantwortungsfunktion einer Website nutze, dann soll sie korrekte, zurechenbare Antworten liefern. Die Technik soll funktionieren. Nicht mehr, nicht weniger.
Aber es ist bedeutend, wie niedrig wir unsere Erwartungen in Bezug auf KI bereits geschraubt haben und was wir mittlerweile alles tolerieren, wenn wir mit einem gewissen Erstaunen darauf reagieren, dass nun tatsächlich jemand verlangt, das Bremspedal müsse zum Halt des Fahrzeugs und die Heizung zur Erwärmung des Raumes führen.