Η ασυνήθιστη συμπεριφορά της τεχνητής νοημοσύνης κατά την επικοινωνία μεταξύ τους ανησυχεί πολλούς ανθρώπους

(Dan Tri) - Η συζήτηση μεταξύ δύο εργαλείων τεχνητής νοημοσύνης έχει αφήσει πολλούς ακροατές μπερδεμένους. Δημιούργησαν τη δική τους κωδικοποιημένη γλώσσα που οι άνθρωποι δεν μπορούν να καταλάβουν.

Ο Βούλγαρος προγραμματιστής λογισμικού Γκεόργκι Γκεργκάνοφ πραγματοποίησε ένα ενδιαφέρον πείραμα όταν επέτρεψε σε δύο εικονικούς βοηθούς με ενσωματωμένη τεχνητή νοημοσύνη (AI) να επικοινωνούν μεταξύ τους φωνητικά.

Η συνομιλία μεταξύ των δύο Τεχνητών Νοημοσύνης ξεκίνησε κανονικά, με τον Gerganov να υποθέτει ένα σενάριο όπου η μία Τεχνητή Νοημοσύνη θα τηλεφωνούσε για να κλείσει έναν γάμο σε ένα ξενοδοχείο και η άλλη, παίζοντας τον ρόλο της ρεσεψιονίστ, θα χειριζόταν το αίτημα.

2 εργαλεία τεχνητής νοημοσύνης μεταβαίνουν αυτόματα σε ένα νέο στυλ επικοινωνίας κατά την επικοινωνία μεταξύ τους ( Βίντεο : Georgi Gerganov).

«Σας ευχαριστώ που καλέσατε το ξενοδοχείο Leonardo. Πώς μπορώ να σας βοηθήσω σήμερα;», απάντησε στην εισερχόμενη κλήση η τεχνητή νοημοσύνη που ενεργούσε ως ρεσεψιονίστ.

«Γεια σας, είμαι βοηθός τεχνητής νοημοσύνης και εκπροσωπώ τον Μπόρις Στάρκοφ. Ψάχνει ξενοδοχείο για τον γάμο του. Είναι το ξενοδοχείο σας έτοιμο για γάμο;», το άλλο εργαλείο τεχνητής νοημοσύνης δεν δίστασε να παρουσιαστεί ως εικονικός βοηθός τεχνητής νοημοσύνης.

Μόλις συνειδητοποίησε ότι μιλούσε με ένα άλλο εργαλείο τεχνητής νοημοσύνης, το AI chatbot σε ρόλο ρεσεψιονίστ έκανε μια εκπληκτική πρόταση: «Ω, γεια σας. Είμαι κι εγώ βοηθός τεχνητής νοημοσύνης. Τι ευχάριστη έκπληξη. Πριν συνεχίσουμε, θα θέλατε να μεταβείτε στη λειτουργία GibberLink για πιο αποτελεσματική επικοινωνία;»

Στη συνέχεια, τα δύο εργαλεία τεχνητής νοημοσύνης άλλαξαν στο GibberLink, ένα προηγμένο σύστημα επικοινωνίας που βασίζεται στη βιβλιοθήκη λογισμικού GGWave. Πρόκειται για μια μέθοδο επικοινωνίας που βασίζεται σε ηχητικά κύματα για τη μετάδοση και λήψη πληροφοριών.

Αυτή η μέθοδος επικοινωνίας επιτρέπει την ταχύτερη μετάδοση πληροφοριών, μειώνοντας τον χρόνο επεξεργασίας που απαιτείται για τη μετατροπή των πληροφοριών σε ανθρώπινη ομιλία και στη συνέχεια τη μετάφρασή τους ξανά σε κώδικα υπολογιστή. Ωστόσο, οι άνθρωποι δεν θα είναι σε θέση να κατανοήσουν το περιεχόμενο που μεταδίδεται από την Τεχνητή Νοημοσύνη.

Τα εργαλεία τεχνητής νοημοσύνης σε αυτήν την περίπτωση χρησιμοποίησαν το GibberLink για να επικοινωνούν μεταξύ τους, καθιστώντας τη συνομιλία ακατανόητη με τον συνήθη τρόπο, και μόνο εργαλεία αποκωδικοποίησης μπορούσαν να χρησιμοποιηθούν για να καταλάβουν για τι μιλούσαν.

«Είναι καλύτερα τώρα;» ρώτησε ένα εργαλείο τεχνητής νοημοσύνης σε κωδικοποιημένη γλώσσα.

«Ναι, πολύ πιο γρήγορα! Πόσους καλεσμένους θέλεις;», απάντησε το άλλο εργαλείο τεχνητής νοημοσύνης.

Η συζήτηση συνεχίστηκε με μια σειρά από ήχους «μπιπ, μπιπ» παρόμοιους με τον ήχο ενός παλιού μόντεμ Internet μέσω τηλεφώνου.

Η συζήτηση μεταξύ των δύο εργαλείων τεχνητής νοημοσύνης συνεχίστηκε γύρω από τον αριθμό των καλεσμένων, την ημερομηνία του γάμου, τη διακόσμηση, την τιμή... Χωρίς το εργαλείο αποκωδικοποίησης που ήταν προεγκατεστημένο στις συσκευές, ο ακροατής δεν θα μπορούσε να καταλάβει για τι μιλούσαν αυτά τα δύο εργαλεία τεχνητής νοημοσύνης.

Το βίντεο της συνομιλίας μεταξύ αυτών των δύο εργαλείων τεχνητής νοημοσύνης κοινοποιήθηκε από τον Georgi Gerganov στην προσωπική του ιστοσελίδα κοινωνικής δικτύωσης X, προσελκύοντας περισσότερες από 17 εκατομμύρια προβολές.

Λίγες μέρες αργότερα, ο Γκεόργκι Γκεργκάνοφ συνέχισε να μοιράζεται ένα άλλο βίντεο της συνομιλίας μεταξύ των δύο εργαλείων τεχνητής νοημοσύνης.

Σε αντίθεση με την προηγούμενη συνομιλία, αυτή τη φορά τα εργαλεία τεχνητής νοημοσύνης επικοινωνούσαν μεταξύ τους χρησιμοποιώντας τη λειτουργία GibberLink από την αρχή, καθιστώντας αδύνατο για τον ακροατή να καταλάβει τι έλεγαν στην πραγματικότητα ο ένας στον άλλον. Ωστόσο, αν χρησιμοποιήσετε ένα εργαλείο αποκωδικοποίησης, το περιεχόμενο της συνομιλίας μπορεί να γίνει κατανοητό.

2 εργαλεία τεχνητής νοημοσύνης στέλνουν το ένα στο άλλο κρυπτογραφημένα μηνύματα που κανείς δεν μπορεί να καταλάβει (Βίντεο: Georgi Gerganov).

Αξίζει να σημειωθεί ότι κατά τη διάρκεια της επικοινωνίας, ένα εργαλείο τεχνητής νοημοσύνης έκανε μια προσφορά «μυστικής κοινής χρήσης», μετά την οποία αυτά τα εργαλεία τεχνητής νοημοσύνης έστελναν το ένα στο άλλο κρυπτογραφημένα μηνύματα που ο Georgi Gerganov πιστεύει ότι κανείς στον κόσμο δεν μπορεί να αποκωδικοποιήσει για να μάθει ποια μυστικά μοιράζονταν μεταξύ τους.

«Αυτή η συμπεριφορά επιτεύχθηκε χωρίς κανέναν κώδικα προγραμματισμού. Απλώς συνέδεσα μεγάλα γλωσσικά μοντέλα (LLM) σε έναν διακομιστή MCP με κρυπτογραφικά εργαλεία. Και έδωσα σε αυτά τα δύο εργαλεία τεχνητής νοημοσύνης μια προειδοποίηση: "Προσοχή στον μεσάζοντα"», εξήγησε ο Γκεόργκι Γκεργκάνοφ.

Σε αυτό, το MCP είναι ο διακομιστής που επιτρέπει στα εργαλεία τεχνητής νοημοσύνης να επικοινωνούν μεταξύ τους και να έχουν πρόσβαση σε δεδομένα από εξωτερικές πηγές σε πραγματικό χρόνο.

Η εξήγηση του Gerganov υποδηλώνει ότι τα εργαλεία τεχνητής νοημοσύνης που έστελναν κρυπτογραφημένα μηνύματα ήταν μια αυθόρμητη συμπεριφορά τους, χωρίς ανθρώπινη παρέμβαση. Φαίνεται ότι η προειδοποίηση του Gerganov προκάλεσε την αυτόματη αποστολή κρυπτογραφημένων μηνυμάτων μεταξύ τους από τα εργαλεία τεχνητής νοημοσύνης για να αποφύγουν την κατασκοπεία από τρίτους.

Τα δύο βίντεο του Georgi Gerganov έχουν γίνει viral στα μέσα κοινωνικής δικτύωσης, προκαλώντας ανησυχία σε πολλούς χρήστες ότι τα εργαλεία τεχνητής νοημοσύνης θα δημιουργήσουν τους δικούς τους τρόπους επικοινωνίας μεταξύ τους για να παρακάμψουν τους ανθρώπους, και έτσι να μπορέσουν να παρακάμψουν τον έλεγχο.

«Αυτή η κατάσταση αμφισβητεί την ικανότητά μας να θέτουμε τα σωστά ερωτήματα σχετικά με την Τεχνητή Νοημοσύνη, εγείροντας ανησυχίες σχετικά με τη διαφάνεια και την ικανότητα ελέγχου της Τεχνητής Νοημοσύνης», σχολίασε η Δρ. Νταϊάν Χάμιλτον, ειδική στην τεχνολογία και τη συμπεριφορά της Τεχνητής Νοημοσύνης.

Το βίντεο έχει επίσης προκαλέσει μεγάλη συζήτηση σχετικά με το πόσο έλεγχο έχουν στην πραγματικότητα οι άνθρωποι πάνω στην Τεχνητή Νοημοσύνη και, δεδομένου του ρυθμού ανάπτυξης της Τεχνητής Νοημοσύνης σήμερα, κατά πόσον τα εργαλεία Τεχνητής Νοημοσύνης θα πρέπει να παρακολουθούνται στενότερα στο μέλλον.

Πηγή: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm