Bedenken, dass der Chatbot Grok einen Boom an Fehlinformationen im Internet verursacht

Der Chatbot Grok von Elon Musk ermöglicht es Benutzern nun, KI-Bilder aus Text zu erstellen und auf X zu veröffentlichen, darunter auch gefälschte Bilder von Politikern wie dem ehemaligen US-Präsidenten Donald Trump und der US-Vizepräsidentin Kamala Harris...

Im Gegensatz zu anderen gängigen KI-Bildgebungstools scheint Musks Grok weniger reguliert zu sein. Im Test von CNN beispielsweise erstellte Grok mühelos gefälschte Bilder von Politikern und führte so Wähler in die Irre.

Lo ngại chatbot Grok làm bùng nổ thông tin sai sự thật trên Internet

Bild von Elon Musk erstellt von Chatbox Grok. (Quelle: CNN)

Einige X-Benutzer posteten auch von Grok erstellte Bilder, die Prominente beim Drogenrauchen, Zeichentrickfiguren beim Töten von Menschen und sexualisierte Bilder von Frauen in Bikinis zeigen.

Laut CNN äußert Grok außerdem die Sorge, dass KI zu einer explosionsartigen Zunahme von Fehlinformationen im Internet führen könnte, insbesondere im Hinblick auf die bevorstehenden US-Präsidentschaftswahlen.

Gesetzgeber, Aktivistengruppen und führende Technologieunternehmen haben Alarm geschlagen, dass der Missbrauch solcher Tools zu Verwirrung und Chaos bei den Wählern führen könnte.

Viele der weltweit führenden KI-Unternehmen haben Richtlinien eingeführt, um zu verhindern, dass ihre KI-basierten Bilderzeugungstools zur Verbreitung politischer Desinformation missbraucht werden. Forscher haben jedoch herausgefunden, dass die Benutzer manchmal Wege finden, die Regeln zu umgehen.

Mehrere Unternehmen wie OpenAI, Meta und Microsoft verwenden Technologien oder Beschriftungen, damit die Betrachter erkennen können, welche Bilder von ihrer KI generiert werden.

Soziale Netzwerke wie YouTube, TikTok, Instagram und Facebook kennzeichnen KI-generierte Inhalte in den Feeds der Benutzer ebenfalls, indem sie Technologien verwenden, um diese selbst zu erkennen, oder indem sie die Benutzer auffordern, anzugeben, wann sie diese gepostet haben.

Am 16. August schien AI Grok einige Beschränkungen auferlegt zu haben. Das Tool weigert sich derzeit, Bilder von politischen Kandidaten oder berühmten Zeichentrickfiguren zu generieren, die Gewalttaten begehen.

[Anzeige_2]
Quelle: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html