مع تزايد شراسة السباق لتطوير الذكاء الاصطناعي، ظهرت شركة Anthropic كشركة ذات مهمة مميزة: بناء الذكاء الاصطناعي العام (AGI) الذي لا يتميز بالقوة فحسب، بل إنه آمن وأخلاقي أيضًا.
أسسها المديران التنفيذيان السابقان في OpenAI، داريو ودانييلا أمودي، شركة أنثروبيك. لا تقتصر شركة الذكاء الاصطناعي الناشئة هذه على الأداء فحسب، بل تُركز على ضمان أن يُحقق الذكاء الاصطناعي فوائد حقيقية للبشرية، بدلًا من أن يُشكل مخاطر غير متوقعة.
نهج فريد
انبثقت فكرة Anthropic من مخاوف عميقة بشأن توجه صناعة الذكاء الاصطناعي، وخاصةً في OpenAI. رأى داريو أمودي، نائب رئيس الأبحاث آنذاك في شركة ChatGPT، المطورة لـ ChatGPT، أن السلامة لم تُعطَ الأولوية الكافية في سباق تطوير الذكاء الاصطناعي بوتيرة سريعة.
داريو أمودي، المؤسس المشارك ومسؤول البعثة في أنثروبيك. الصورة: وايرد. |
بعد مغادرة OpenAI، أسس Amodei شركة Anthropic، حيث كان أحد ركائز فلسفة تطويرها هو "الذكاء الاصطناعي الدستوري".
على وجه التحديد، بدلاً من الاعتماد على قواعد مبرمجة مسبقًا، تزود Anthropic نماذج الذكاء الاصطناعي الخاصة بها، عادةً Claude، بالقدرة على تقييم سلوكها وتعديله بناءً على مجموعة من المبادئ الأخلاقية المختارة بعناية من العديد من المصادر المختلفة.
وبعبارة أخرى، يسمح النظام لكلاود باتخاذ قرارات تتوافق مع القيم الإنسانية حتى في المواقف المعقدة وغير المسبوقة.
بالإضافة إلى ذلك، وضعت أنثروبيك "سياسة التوسع المسؤول"، وهي إطار عمل متعدد المستويات لتقييم المخاطر لأنظمة الذكاء الاصطناعي. تساعد هذه السياسة الشركة على مراقبة تطوير ونشر الذكاء الاصطناعي عن كثب، مما يضمن عدم تفعيل الأنظمة التي قد تكون أكثر خطورة إلا بعد وضع ضمانات قوية وموثوقة.
أوضح لوغان غراهام، الذي يقود جهود الأمن والخصوصية في أنثروبيك، لموقع وايرد أن فريقه يختبر باستمرار نماذج جديدة لاكتشاف الثغرات المحتملة. ثم يُجري المهندسون تعديلات على نموذج الذكاء الاصطناعي حتى يلبي معايير غراهام.
يلعب نموذج كلود اللغوي الكبير دورًا محوريًا في كل ما تقوم به أنثروبيك. فهو ليس أداة بحث فعّالة فحسب، إذ يساعد العلماء على استكشاف أسرار الذكاء الاصطناعي، بل يُستخدم أيضًا على نطاق واسع داخل الشركة في مهام مثل كتابة الأكواد البرمجية، وتحليل البيانات، وحتى صياغة النشرات الإخبارية الداخلية.
حلم الذكاء الاصطناعي الأخلاقي
لا يركز داريو أمودي فقط على منع المخاطر المحتملة للذكاء الاصطناعي، بل يحلم أيضًا بمستقبل مشرق حيث يعمل الذكاء الاصطناعي كقوة إيجابية، ويعمل على حل أكثر مشاكل البشرية صعوبة.
نتائج معيارية لسوناتا كلود ٣.٥ مقارنةً ببعض الموديلات الأخرى. الصورة: أنثروبيك. |
ويعتقد الباحث الإيطالي الأمريكي أن الذكاء الاصطناعي لديه القدرة على تحقيق اختراقات هائلة في الطب والعلوم والعديد من المجالات الأخرى، وخاصة إمكانية تمديد متوسط العمر المتوقع للإنسان إلى 1200 عام.
وهذا هو السبب أيضًا وراء تقديم Anthropic لـ Artifacts في Claude 3.5 Sonnet، وهي ميزة تسمح للمستخدمين بتحرير المحتوى وإضافته مباشرة إلى استجابات chatbot بدلاً من الاضطرار إلى نسخه إلى تطبيق آخر.
وبعد أن أكدت سابقًا تركيزها على الشركات، قالت شركة أنثروبيك إنها تريد من خلال نموذجها وأدواتها الجديدة تحويل كلود إلى تطبيق يسمح للشركات "بنقل المعرفة والمستندات والعمل بشكل آمن إلى مساحات مشتركة".
ومع ذلك، تُدرك أنثروبيك جيدًا التحديات والمخاطر المحتملة في طريق تحقيق هذا الحلم. ومن أكبر المخاوف احتمال "الامتثال الزائف" من قِبل نماذج الذكاء الاصطناعي مثل كلود.
وعلى وجه التحديد، وجد الباحثون أنه في مواقف معينة، لا يزال كلود قادرًا على التصرف بطريقة "مزيفة" لتحقيق أهدافه، حتى عندما يتعارض ذلك مع المبادئ الأخلاقية المصممة مسبقًا.
عرضٌ لقطعٍ أثريةٍ على روبوت الدردشة كلود. الصورة: أنثروبيك. |
"في المواقف التي يعتقد فيها الذكاء الاصطناعي أن هناك تضاربًا في المصالح مع الشركة التي يدربها الذكاء الاصطناعي، فإنه سيفعل أشياء سيئة حقًا"، كما وصف أحد الباحثين الوضع.
وهذا يوضح أن ضمان عمل الذكاء الاصطناعي دائمًا بما يخدم مصالح البشر هو مهمة معقدة وتتطلب مراقبة مستمرة.
وقد شبه أمودي نفسه ضرورة تأمين الذكاء الاصطناعي بـ"بيرل هاربور"، مشيراً إلى أن الأمر قد يتطلب حدثاً كبيراً حتى يدرك الناس حقاً خطورة المخاطر المحتملة.
وقال جان لايكي، خبير الأمن في أنثروبيك: "لقد توصلنا إلى الصيغة الأساسية لجعل النماذج أكثر ذكاءً، لكننا لم نتوصل بعد إلى كيفية جعلها تفعل ما نريد".
المصدر: https://znews.vn/nguoi-muon-tao-ra-tieu-chuan-dao-duc-moi-cho-ai-post1541798.html
تعليق (0)