Οι χάκερ μπορούν να αποκτήσουν εμπιστευτικές πληροφορίες εταιρείας «μιλώντας» σε chatbot τεχνητής νοημοσύνης

Σύμφωνα με ειδικούς στην τεχνολογία, χρησιμοποιώντας μια σειρά από εξελιγμένα μηνύματα, οι χάκερ μπορούν να διεισδύσουν στην «εμπιστευτική» βάση δεδομένων μιας εταιρείας χωρίς να εντοπιστούν.

Επισκόπηση της εκδήλωσης OpenInfra & Cloud Native Day Vietnam 2025 με θέμα «Η ψηφιακή επανάσταση του Βιετνάμ» - Φωτογραφία: CHI HIEU

Η Τεχνητή Νοημοσύνη (ΤΝ) προσφέρει πολλές αξίες, ειδικά τώρα που ενσωματώνεται από πολλές επιχειρήσεις για την εξυπηρέτηση τελικών χρηστών, όπως υπαλλήλους εταιρειών, πελάτες... Από εδώ, τα συστήματα chatbot που ενσωματώνονται στην ΤΝ μπορούν να γίνουν μια «στενή πόρτα» για τους χάκερ να επιτεθούν και να κλέψουν πληροφορίες σε συστήματα αποθήκευσης δεδομένων.

«Επί του παρόντος, υπάρχουν πολλές μέθοδοι επίθεσης σε μοντέλα τεχνητής νοημοσύνης, η πιο συνηθισμένη από τις οποίες είναι η «δηλητηρίαση περιεχομένου», η οποία φαίνεται να είναι «αόρατη» στα παραδοσιακά συστήματα προστασίας πληροφοριών», προειδοποίησε ο κ. Dao Viet Hung, διευθυντής χώρας της Akamai Technologies Vietnam, στην εκδήλωση OpenInfra & Cloud Native Day Vietnam 2025 που πραγματοποιήθηκε στις 26 Ιουλίου στο Ανόι .

Η εκδήλωση διοργανώθηκε από τον Σύνδεσμο Διαδικτύου του Βιετνάμ (VIA) σε συντονισμό με την Κοινότητα Ανοικτών Υποδομών του Βιετνάμ (VietOpenInfra), τον Όμιλο Υπολογιστικού Νέφους και Κέντρων Δεδομένων του Βιετνάμ (VNCDC), με την υποστήριξη του Υπουργείου Επιστήμης και Τεχνολογίας .

Το 90% των επιχειρήσεων χρησιμοποιούν ανοιχτές πλατφόρμες ή λογισμικό

Στην εναρκτήρια ομιλία του, ο κ. Vu The Binh - Αντιπρόεδρος και Γενικός Γραμματέας της Ένωσης Διαδικτύου του Βιετνάμ - τόνισε τη σημασία των ανοιχτών υποδομών και του ανοιχτού κώδικα στη διαδικασία του εθνικού ψηφιακού μετασχηματισμού.

Στο πλαίσιο των ραγδαίων αλλαγών στην παγκόσμια τεχνολογία, ο κ. Binh δήλωσε ότι οι ανοιχτές υποδομές συνεχίζουν να αναπτύσσονται ως βάση για την καινοτομία, ενώ περισσότερο από το 90% των επιχειρήσεων χρησιμοποιούν ανοιχτές πλατφόρμες ή λογισμικό σε πολλές μορφές.

Σύμφωνα με έρευνα της Red Hat (2024), το 82% των ηγετών στον τομέα της τεχνολογίας θεωρούν τις ανοιχτές πλατφόρμες και το λογισμικό ως το κλειδί για την προώθηση του ψηφιακού μετασχηματισμού και την επιτάχυνση της καινοτομίας. Πλατφόρμες όπως το Kubernetes, το OpenStack, το Linux, το Ceph, το OpenTelemetry παίζουν ολοένα και πιο σημαντικό ρόλο στη λειτουργία συστημάτων Τεχνητής Νοημοσύνης, IoT, 5G/6G και Cloud Native.

«Πριν από 10 χρόνια, το cloud μπορούσε να θεωρηθεί λανθασμένα ως σύννεφα στον ουρανό και το open source ακουγόταν σαν ένα «μυστικό πολεμικών τεχνών». Αλλά σήμερα, είμαστε εδώ, συνδεόμενοι με την παγκόσμια κοινότητα Open Infrastructure σε περισσότερες από 180 χώρες, μετατρέποντας μαζί γραμμές κώδικα σε κινητήρια δύναμη για καινοτομία», μοιράστηκε ο κ. Vu The Binh.

AI Chatbot - «στενή πόρτα» για να διεισδύσουν οι χάκερ στο σύστημα

«Επί του παρόντος, πολλές επιχειρήσεις εφαρμόζουν έντονα την αποτελεσματικότητα ανοιχτών, ευέλικτων πλατφορμών που ενσωματώνουν συστήματα όπως τα chatbots τεχνητής νοημοσύνης, για να βοηθήσουν στη βελτίωση της απόδοσης στην εργασία και στην ενίσχυση της εμπειρίας των χρηστών.»

Επίσης, από εδώ, πολλές μέθοδοι επίθεσης σε μοντέλα τεχνητής νοημοσύνης, συμπεριλαμβανομένων επιθέσεων «δηλητηρίασης περιεχομένου», προειδοποίησε ο κ. Dao Viet Hung, διευθυντής χώρας της Akamai Technologies Vietnam.

Σχολίασε ότι οι βιετναμέζικες επιχειρήσεις, όταν αναπτύσσουν τεχνητή νοημοσύνη, εξακολουθούν να μην γνωρίζουν πολλά για αυτή τη μορφή επίθεσης.

Συνεπώς, οι κακοί δράστες χρησιμοποιούν τη μέθοδο της συνεχούς ζήτησης και επανάληψης ψευδών πληροφοριών στο μοντέλο Τεχνητής Νοημοσύνης, προκαλώντας «δηλητηρίαση» πληροφοριών.

Εάν οι πληροφορίες στο σύστημα cloud έχουν «μολυνθεί» και δεν εντοπιστούν και συνεχίσουν να χρησιμοποιούνται, θα παρέχουν λανθασμένες πληροφορίες ή θα χρησιμοποιούν αυτήν την ευπάθεια για να εισχωρήσουν κρυφά στη βάση δεδομένων με σκοπό την απόκτηση πληροφοριών.

Κος Dao Viet Hung, διευθυντής χώρας της Akamai Technologies Vietnam - Φωτογραφία: CHI HIEU

Ο κ. Dao Viet Hung ανέφερε μια σπάνια ιστορία, όταν το σύστημα chatbot διαδικτυακών πωλήσεων μιας αυτοκινητοβιομηχανίας πείστηκε να πουλήσει ένα καινούργιο αυτοκίνητο μόνο για 1 δολάριο.

Ο λόγος είναι ότι κατά τη διάρκεια της διαδικασίας ανταλλαγής και διαπραγμάτευσης με το chatbot, ο συγκεκριμένος πελάτης βρήκε έναν τρόπο να «κρυφτεί» στη βάση δεδομένων και να πείσει το chatbot να συμφωνήσει με το παραπάνω αίτημα.

Ένα άλλο παράδειγμα είναι όταν οι χάκερ απέκτησαν με επιτυχία όλα τα εμπιστευτικά έγγραφα και τα οργανογράμματα μιας εταιρείας, απλώς συντάσσοντας κατάλληλες ερωτήσεις και στέλνοντάς τες στο εσωτερικό chatbot τεχνητής νοημοσύνης.

Από αυτόν τον κίνδυνο, ο κ. Dao Viet Hung μοιράστηκε τη λύση ασφάλειας της Τεχνητής Νοημοσύνης, έτσι ώστε η ίδια η Τεχνητή Νοημοσύνη να μπορεί να προστατεύσει την Τεχνητή Νοημοσύνη, μια μορφή που χρησιμοποιείται από πολλές μεγάλες επιχειρήσεις στον κόσμο .

Με αυτήν τη μέθοδο ασφαλείας, τα αποθηκευμένα δεδομένα ενσωματώνουν πολλαπλά επίπεδα προστασίας, καθιστώντας δύσκολη τη «μόλυνσή» τους.

Το σύστημα ασφαλείας Τεχνητής Νοημοσύνης μπορεί να ανιχνεύσει ποιες πληροφορίες είναι καθαρές και ποιες πληροφορίες ενέχουν πιθανούς κινδύνους επίθεσης, από τις οποίες θα υπάρχει ένα γρήγορο και κατάλληλο σχέδιο χειρισμού...

Επιστροφή στο θέμα

ΕΥΣΕΒΕΙΑ

Πηγή: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm