Überblick über die Veranstaltung OpenInfra & Cloud Native Day Vietnam 2025 mit dem Thema „Vietnams digitales Durchbruchszeitalter“ – Foto: CHI HIEU
Künstliche Intelligenz (KI) bringt viele Vorteile mit sich, insbesondere da sie mittlerweile von vielen Unternehmen integriert wird, um Endbenutzer wie Firmenmitarbeiter, Kunden usw. zu bedienen. Von hier aus können KI-integrierte Chatbot-Systeme für Hacker zu einer „schmalen Tür“ werden, um Datenspeichersysteme anzugreifen und Informationen zu stehlen.
„Derzeit gibt es viele Methoden, KI-Modelle anzugreifen. Die häufigste davon ist ‚Content Poisoning‘, das für herkömmliche Informationsschutzsysteme ‚unsichtbar‘ zu sein scheint“, warnte Dao Viet Hung, Landesdirektor von Akamai Technologies Vietnam, auf der Veranstaltung OpenInfra & Cloud Native Day Vietnam 2025, die am 26. Juli in Hanoi stattfand.
Die Veranstaltung wurde von der Vietnam Internet Association (VIA) in Abstimmung mit der Vietnam Open Infrastructure Community (VietOpenInfra) und dem Vietnam Cloud Computing and Data Center Club (VNCDC) mit Unterstützung des Ministeriums für Wissenschaft und Technologie organisiert.
90 % der Unternehmen nutzen offene Plattformen oder Software
In seiner Eröffnungsrede betonte Herr Vu The Binh – Vizepräsident und Generalsekretär der Vietnam Internet Association – die Bedeutung offener Infrastruktur und Open Source-Codes im nationalen digitalen Transformationsprozess.
Im Kontext der rasanten Veränderungen in der globalen Technologie sagte Herr Binh, dass sich die offene Infrastruktur weiterhin als Grundlage für Innovationen entwickle, da mehr als 90 % der Unternehmen offene Plattformen oder Software in vielen Formen verwenden.
Laut einer Red Hat-Umfrage (2024) sehen 82 % der Technologieführer offene Plattformen und Software als Schlüssel zur Förderung der digitalen Transformation und zur Beschleunigung von Innovationen. Plattformen wie Kubernetes, OpenStack, Linux, Ceph und OpenTelemetry spielen eine zunehmend wichtige Rolle beim Betrieb von KI-, IoT-, 5G/6G- und Cloud-Native-Systemen.
„Vor 10 Jahren hätte man die Cloud noch mit Wolken am Himmel verwechselt und Open Source klang wie ein ‚Kampfkunstgeheimnis‘. Doch heute sind wir hier und vernetzen uns mit der globalen Open Infrastructure-Community in über 180 Ländern. Gemeinsam machen wir aus Codezeilen die treibende Kraft für Innovationen“, erklärte Herr Vu The Binh.
KI-Chatbot – „enge Tür“ für Hacker, um in das System einzudringen
„Derzeit nutzen viele Unternehmen intensiv die Effektivität offener, reaktionsfähiger Plattformen, die Systeme wie KI-Chatbots integrieren, um die Arbeitsleistung zu verbessern und das Benutzererlebnis zu optimieren.
Auch von hier aus kommen viele Angriffsmethoden auf KI-Modelle, darunter „Content Poisoning“-Angriffe, warnte Herr Dao Viet Hung, Landesdirektor von Akamai Technologies Vietnam.
Er merkte an, dass vietnamesische Unternehmen beim Einsatz von KI noch nicht viel über diese Art von Angriffen wüssten.
Dementsprechend verwenden böswillige Akteure die Methode, dem KI-Modell kontinuierlich falsche Informationen abzufragen und erneut beizubringen, was zu einer „Informationsvergiftung“ führt.
Wenn die Informationen im Cloud-System „infiziert“ wurden und nicht erkannt werden und weiterhin verwendet werden, werden falsche Informationen bereitgestellt oder diese Sicherheitslücke wird ausgenutzt, um sich in die Datenbank einzuschleichen und Informationen zu erhalten.
Herr Dao Viet Hung, Landesdirektor von Akamai Technologies Vietnam – Foto: CHI HIEU
Herr Dao Viet Hung erzählte von einer seltenen Geschichte: Das Online-Verkaufs-Chatbot-System eines Autoherstellers wurde davon überzeugt, ein neues Auto für nur 1 US-Dollar zu verkaufen.
Der Grund dafür ist, dass dieser Kunde während des Austauschs und der Verhandlungen mit dem Chatbot einen Weg gefunden hat, sich in die Datenbank zu „schleichen“ und den Chatbot davon zu überzeugen, der obigen Anfrage zuzustimmen.
Ein weiteres Beispiel: Hacker erlangten erfolgreich alle vertraulichen Dokumente und Organigramme eines Unternehmens, indem sie einfach entsprechende Fragen formulierten und diese an den internen KI-Chatbot schickten.
Angesichts dieses Risikos hat Herr Dao Viet Hung die KI-Sicherheitslösung vorgestellt, mit der KI selbst KI schützen kann. Diese Form wird von vielen großen Unternehmen auf der Welt verwendet.
Bei dieser Sicherheitsmethode sind die gespeicherten Daten durch mehrere Schutzebenen geschützt, sodass eine „Infektion“ erschwert wird.
Das KI-Sicherheitssystem kann erkennen, welche Informationen sauber sind und welche ein potenzielles Angriffsrisiko bergen, woraufhin ein schneller und angemessener Behandlungsplan erstellt wird.
Quelle: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm
Kommentar (0)