مهندس كبير من OpenAI يستقيل بسبب “انتهاكات أخلاقية”
أعلن يان ليك، الباحث البارز لدى شركة OpenAI، الشهيرة في تطوير تقنيات الذكاء الاصطناعي والمطور لبوت الدردشة الأشهر، ChatGPT، استقالته من الشركة والانضمام إلى أخرى منافسه “تركز على أخلاقيات الذكاء الاصطناعي”.
وكتب ليك عبر حسابه الشخصي على تويتر/اكس، أنه قرر الرحيل عن OpenAI والانضمام إلى شركة منافسة هي Anthropic، مشيرًا إلى أن سبب استقالته هو “مخاوف تتعلق بالسلامة” التي يشعر بها تجاه توجهات OpenAI الحالية.
I'm excited to join @AnthropicAI to continue the superalignment mission!
My new team will work on scalable oversight, weak-to-strong generalization, and automated alignment research.
If you're interested in joining, my dms are open.
— Jan Leike (@janleike) May 28, 2024
تصف شركة Anthropic نفسها إنها مؤسسة تعمل لصالح المجتمع تهدف إلى تطوير تقنية الذكاء الاصطناعي بشكل حذر وآمن.
أسس هذه الشركة موظفون سابقون في OpenAI بعد أن غادروا الشركة، ووفقًا لحديثهم لصحيفة فايننشال تايمز، قالوا عند التأسيس إن الخروج من OpenAI جاء بسبب اعتقادهم بأنها “قد انحرفت عن مهمتها الأساسية المتمثلة في تطوير ذكاء اصطناعي أكثر أمانًا وأخلاقية”.
وقالوا في بيان مشترك، إن مطور ChatGPT أصبحت تركز بشكل أكبر على المصالح التجارية بعد صفقة المليار دولار التي أبرمتها مع مايكروسوفت.
بالنسبة لتقرير نشرته صحيفة فايننشال تايمز، فإن انتقال مهندس كبير في حجم يان ليك إلى Anthropic لم يكن مفاجئًا، وأشارت إلى تصريحات له، قبل أسابيع قليلة من استقالته: “لقد تأخرنا كثيرًا في التعامل بجدية تامة مع تداعيات الذكاء الاصطناعي العام، ويجب أن نضع الاستعداد لها على رأس أولوياتنا قدر الإمكان، وعندها فقط يمكننا ضمان استفادة البشرية جمعاء من الذكاء الاصطناعي المتقدم”.
خلال عمله في OpenAI، كان ليك جزءًا من فريق “التوافق الفائق” (Superalignment)، والذي يبدو أنه يتماشى مع دوره الجديد في Anthropic، وهو ضمان تصميم أنظمة ذكاء اصطناعي تعمل وفقًا للقيم الإنسانية، وفي سلسلة منشوراته بعد إعلان استقالته، انتقد ليك شركة OpenAI لعدم توفير موارد حوسبة كافية لضمان نجاح أبحاثه.
أما بالنسبة لشركة Anthropic، فهي تستخدم تقنية “الذكاء الاصطناعي الدستوري” الذي يدمج المبادئ الأخلاقية في عملية تدريب نماذج الذكاء الاصطناعي، يتم ذلك من خلال جمع آراء عامة ودمج مفاهيم من مصادر قانونية وحقوقية مثل الإعلان العالمي لحقوق الإنسان الصادر عن الأمم المتحدة.
هناك رحيل بارز آخر عن OpenAI وهو إيليا سوتسكيفير، أحد مؤسسي الشركة، والذي غادر منصبه في وقت سابق من هذا الشهر، وفقًا للتقارير، كان سوتسكيفير يقود محاولة للتخلص من الرئيس التنفيذي، سام ألتمان، في نوفمبر الماضي.
وعلى الرغم من عدم إعلان سوتسكيفير عن خطوته التالية بعد الرحيل عن OpenAI، إلا أن قيمه تتوافق مع قيم شركة Anthropic، مما يجعلها وجهة محتملة له أيضًا.
