Το αφεντικό χαλαρώνει, οι υπάλληλοι δίνουν ήρεμα εμπιστευτικά δεδομένα στην Τεχνητή Νοημοσύνη

(Dan Tri) - Όταν η Τεχνητή Νοημοσύνη διεισδύει σε κάθε γωνιά της εργασίας, είναι επίσης η στιγμή που οι επιχειρήσεις πρέπει να αντιμετωπίσουν ένα «υποκείμενο ρεύμα» που σαρώνει σιωπηλά το απόρρητο των δεδομένων, το οποίο ονομάζεται «Σκιώδης Τεχνητή Νοημοσύνη».

Η εφαρμογή της Τεχνητής Νοημοσύνης (ΤΝ) στην εργασία έχει γίνει μια αναπόφευκτη τάση, συμβάλλοντας στη βελτίωση της αποδοτικότητας και στην εξοικονόμηση χρόνου.

Ωστόσο, πίσω από αυτή την ευκολία κρύβονται πιθανοί κίνδυνοι για την ασφάλεια των δεδομένων, ιδίως το φαινόμενο της «σκιώδους τεχνητής νοημοσύνης» - όταν οι εργαζόμενοι χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης απρόσεκτα, χωρίς έλεγχο, τοποθετώντας κατά λάθος εμπιστευτικά δεδομένα της εταιρείας σε δημόσιες πλατφόρμες.

Εξάρτηση και αρχικές ανησυχίες

Η Thanh Huyen (21 ετών), υπάλληλος μάρκετινγκ περιεχομένου σε μια εταιρεία καλλυντικών και λειτουργικών τροφίμων, μοιράστηκε ότι βασίζεται στην τεχνητή νοημοσύνη κατά 90% στην εργασία της, από τον σχεδιασμό και τη δημιουργία περιεχομένου έως τον σχεδιασμό εικόνων και βίντεο .

Ωστόσο, όταν έπεσε κατά λάθος πάνω σε ένα άρθρο παρόμοιο με την ιδέα για το οποίο ρώτησε το ChatGPT, η Huyen άρχισε να ανησυχεί για την ικανότητα της Τεχνητής Νοημοσύνης να θυμάται και να μοιράζεται πληροφορίες εισόδου.

Η εφαρμογή της Τεχνητής Νοημοσύνης στην εργασία έχει σχεδόν γίνει μια προεπιλογή για πολλούς κλάδους αυτή τη στιγμή (Φωτογραφία: Bao Ngoc).

Ενώ η ιστορία του Huyen μπορεί να είναι σύμπτωση, το αναμφισβήτητο γεγονός είναι ότι η παροχή πληροφοριών στην Τεχνητή Νοημοσύνη σημαίνει ότι επιτρέπεται σε αυτά τα εργαλεία να συλλέγουν και να αποθηκεύουν δεδομένα για την εκπαίδευση του μοντέλου.

Το πρόβλημα γίνεται σοβαρό εάν η πλατφόρμα τεχνητής νοημοσύνης παραβιαστεί ή δεν ασφαλιστεί επαρκώς, με αποτέλεσμα διαρροές πληροφοριών και αρνητικές συνέπειες.

«Shadow AI» - Ένας Πιθανός Κίνδυνος

Ο/Η HM (20 ετών), ειδικός στην εξυπηρέτηση πελατών, παρέχει τακτικά μια λίστα με τα στοιχεία των πελατών (ονοματεπώνυμο, ημερομηνία γέννησης, αριθμό τηλεφώνου, ιστορικό αγορών) στην Τεχνητή Νοημοσύνη για ανάλυση, εξοικονομώντας χρόνο και βελτιώνοντας την απόδοση.

Ο Μ. πιστεύει ότι αυτό δεν αποτελεί πιθανό κίνδυνο επειδή η εταιρεία είναι μικρή και τα δεδομένα δεν θα αποκαλυφθούν. Ωστόσο, η περίπτωση του Μ. είναι χαρακτηριστική της «Shadow AI» - της χρήσης της Τεχνητής Νοημοσύνης από τους υπαλλήλους χωρίς την έγκριση ή την επίβλεψη του τμήματος πληροφορικής ή κυβερνοασφάλειας.

Το φαινόμενο της «σκιώδους τεχνητής νοημοσύνης» αναφέρεται στη χρήση της τεχνητής νοημοσύνης από τους εργαζόμενους σε επιχειρήσεις χωρίς κανέναν έλεγχο ή διαχείριση (Εικονογράφηση: Βιογραφικό Σημείωμα).

Μια έκθεση της Cisco διαπίστωσε ότι το 62% των οργανισμών στο Βιετνάμ δεν έχουν εμπιστοσύνη στον εντοπισμό της μη ρυθμιζόμενης χρήσης Τεχνητής Νοημοσύνης από τους εργαζομένους. Μια έρευνα στο Ηνωμένο Βασίλειο διαπίστωσε επίσης ότι το 75% των διευθυντών κυβερνοασφάλειας ανησυχούν για εσωτερικές απειλές όπως η Shadow AI.

Αυτό δείχνει ότι η σκιώδης τεχνητή νοημοσύνη (Shadow AI) γίνεται μια κοινή απειλή, ειδικά όταν πολλές επιχειρήσεις δεν έχουν σαφείς πολιτικές σχετικά με τη χρήση της τεχνητής νοημοσύνης και οι εργαζόμενοι δεν έχουν επίγνωση της ασφάλειας των δεδομένων.

Αποδεχτείτε συμβιβασμούς για να αποφύγετε να μείνετε πίσω

Παρά το γεγονός ότι γνωρίζει τους κινδύνους, η Thanh Huyen εξακολουθεί να δέχεται να «στοιχηματίσει» στην Τεχνητή Νοημοσύνη. Πιστεύει ότι τα άμεσα οφέλη που φέρνει η Τεχνητή Νοημοσύνη είναι πολύ μεγάλα, γεγονός που τη βοηθά να παράγει δεκάδες άρθρα και ιδέες κάθε μέρα.

Η ευκολία, η ταχύτητα και η δυνατότητα αύξησης της απόδοσης έχουν κάνει την Huyen πρόθυμη να παρέχει ευαίσθητες, εμπιστευτικές πληροφορίες στην Τεχνητή Νοημοσύνη, ακόμη και προσωπικές πληροφορίες των προϊσταμένων της.

Παρά τους πιθανούς κινδύνους από τη χρήση της Τεχνητής Νοημοσύνης χωρίς έλεγχο, πολλοί εργαζόμενοι εξακολουθούν να αποδέχονται το αντάλλαγμα για άμεσα οφέλη (Εικονογράφηση: Βιογραφικό Σημείωμα).

Ομοίως, ο Trung Hieu (20 ετών), υπάλληλος μάρκετινγκ περιεχομένου, παρέχει τακτικά εσωτερικά έγγραφα και επιχειρηματικές πληροφορίες στο chatbot τεχνητής νοημοσύνης.

Ο Hieu παρατήρησε μια σημαντική αύξηση στην παραγωγικότητα, δημιουργώντας ένα ανταγωνιστικό πλεονέκτημα και πιστεύει ότι αυτό δεν επηρεάζει ιδιαίτερα τις δραστηριότητες της εταιρείας.

Αυτές οι περιπτώσεις δείχνουν ότι η Shadow AI εξαπλώνεται λόγω έλλειψης σαφών πολιτικών από την εταιρεία και ανεπαρκούς ευαισθητοποίησης των εργαζομένων σχετικά με την ασφάλεια, την ποιότητα και τους κινδύνους εξάρτησης.

Μια σειρά από κινδύνους όταν εμπιστεύεστε υπερβολικά την Τεχνητή Νοημοσύνη

Ο κ. Nguyen Viet Hung, Διευθύνων Σύμβουλος μιας εταιρείας ανάπτυξης λογισμικού εφαρμογών τεχνητής νοημοσύνης, εξηγεί τη δημοτικότητα της Shadow AI λόγω τριών παραγόντων: Η τεχνητή νοημοσύνη βοηθά στην ταχύτερη και πιο αποτελεσματική εργασία, η συνήθεια της γρήγορης εξάρτησης από την τεχνητή νοημοσύνη και η έλλειψη προειδοποιήσεων και εκπαίδευσης σχετικά με τους κινδύνους στις επιχειρήσεις.

Ο κ. Nguyen Viet Hung, Διευθύνων Σύμβουλος μιας εταιρείας ανάπτυξης λογισμικού εφαρμογών τεχνητής νοημοσύνης (Φωτογραφία: Cong Khanh).

Οι ειδικοί προειδοποιούν ότι η Shadow AI μπορεί να οδηγήσει σε διαρροές δεδομένων (πελατών, εσωτερικών) όταν εγκαθίσταται σε δωρεάν εργαλεία AI.

Επιπλέον, η ποιότητα του περιεχομένου που παράγεται από την Τεχνητή Νοημοσύνη δεν επαληθεύεται, γεγονός που μπορεί εύκολα να οδηγήσει σε μεροληψία και να επηρεάσει τις επιχειρηματικές αποφάσεις.

Πιο σοβαρά, η ανεξέλεγκτη χρήση της Τεχνητής Νοημοσύνης μπορεί να δημιουργήσει τρωτά σημεία ασφαλείας, καθιστώντας δύσκολη την παρακολούθηση και την άμεση ανταπόκριση των συστημάτων πληροφορικής, καθώς και τον προσδιορισμό της ευθύνης σε περίπτωση συμβάντων.

Οι σκοτεινές περιοχές είναι δύσκολο να ελεγχθούν.

Η παρακολούθηση και η διαχείριση των εργαζομένων που χρησιμοποιούν τεχνητή νοημοσύνη είναι μια μακρά και συντονισμένη διαδικασία. Οι ειδικοί λένε ότι η πρόσβαση των εργαζομένων σε εσωτερικά δεδομένα αποτελεί σημαντικό εμπόδιο στην αποτροπή της διαβίβασης ιδιωτικών δεδομένων μέσω προσωπικών εργαλείων τεχνητής νοημοσύνης.

Επιπλέον, τα εργαλεία Τεχνητής Νοημοσύνης είναι πλέον εύκολα προσβάσιμα, γεγονός που καθιστά δύσκολη την ανίχνευση ή τη διαχείρισή τους από το τμήμα πληροφορικής.

Η εύκολη πρόσβαση σε εργαλεία τεχνητής νοημοσύνης είναι ένα από τα εμπόδια που δυσχεραίνουν τον έλεγχο των πληροφοριών που οι εργαζόμενοι καταχωρούν στις πλατφόρμες τεχνητής νοημοσύνης (Εικονογράφηση: Βιογραφικό Σημείωμα).

Για να αντιμετωπίσουν την κατάσταση, ο ειδικός Nguyen Viet Hung πρότεινε ότι οι επιχειρήσεις πρέπει να αυξήσουν την εκπαίδευση των εργαζομένων σχετικά με την επίγνωση του κινδύνου κατά τη χρήση της Τεχνητής Νοημοσύνης και να αποκτήσουν μια βαθύτερη κατανόηση της «σκιώδους Τεχνητής Νοημοσύνης».

Ταυτόχρονα, εκδώστε άμεσα νομικούς κανονισμούς και εσωτερικές πολιτικές. Μια άλλη σημαντική λύση είναι η ενίσχυση των δυνατοτήτων ασφαλείας στην επιχείρηση, συμπεριλαμβανομένης της παρακολούθησης συμπεριφοράς, του ελέγχου πρόσβασης σε δεδομένα και της προσεκτικής εξουσιοδότησης για κάθε εργαζόμενο.

Προς το παρόν, πολλές εταιρείες εξακολουθούν να μην έχουν σαφή διαδικασία για τη χρήση της Τεχνητής Νοημοσύνης, ενθαρρύνοντας μόνο τη χρήση της για την αύξηση της παραγωγικότητας. Για την αντιμετώπιση της Σκιώδους Τεχνητής Νοημοσύνης, πολλές μεγάλες επιχειρήσεις έχουν αρχίσει να αναπτύσσουν εσωτερικές πλατφόρμες Τεχνητής Νοημοσύνης ή απαιτούν από τους υπαλλήλους να χρησιμοποιούν εγκεκριμένα εργαλεία με σαφείς πολιτικές ασφάλειας πληροφοριών.

Πηγή: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm