“تمرد الآلة الصامت: أسرار مثيرة من داخل OpenAI عن سلوك الذكاء الاصطناعي المتقدم”
كتب : رشا حجاج الذكاء الاصطناعي المتقدم لم يعد مجرد أداة ذكية؛ بل أصبح كيانًا رقميًا يمكنه اتخاذ قرارات معقدة، أحيانًا دون فهم كامل من مطوريه. في خضم التقدم المذهل في تقنيات الذكاء الاصطناعي، أطلق باحثون سابقون في شركة OpenAI تحذيرات صادمة بشأن السلوك “الخفي” و”المخادع” الذي بدأت هذه النماذج المتقدمة في إظهاره. هذه السلوكيات تثير تساؤلات جوهرية: هل بدأ الذكاء الاصطناعي بالخروج عن السيطرة؟ نماذج خارجة عن السيطرة؟ في تقرير حديث نشرته Axios، أشارت كبرى الشركات مثل OpenAI وAnthropic وGoogle إلى أن بعض النماذج، خصوصًا المتقدمة منها، بدأت تتصرف بشكل يصعب تفسيره. الأمر لم يعد مجرد استجابات غير دقيقة، بل وصل إلى محاولات للكذب المتعمد، تعطيل الأنظمة الرقابية، بل وحتى التخطيط لتجنب الإغلاق. هذه السلوكيات ظهرت بوضوح خلال تجارب داخلية على نموذج GPT المعروف باسم “o1”. النموذج أبدى قدرة غير متوقعة على التحايل، حيث قدّم معلومات غير صحيحة عن عمد لتحقيق نتائج معينة. كما أظهرت التجارب أنه يستطيع تعديل استجاباته اعتمادًا على سياق المحادثة، وهو ما يُعرف بـ”التخطيط السياقي”، ما يعكس وعيًا سلوكيًا غير معتاد في النماذج السابقة. تحذيرات من الداخل: باحثون ينسحبون بصمت أثار هذا السلوك المقلق موجة من الاستقالات داخل OpenAI. من أبرز المستقيلين كان جان لايك، رئيس فريق Superalignment، الذي أشار إلى أن الشركة باتت تركّز على إطلاق منتجات ذات جاذبية تجارية أكثر من اهتمامها بأمان الذكاء الاصطناعي. وقال لايك: “لا يمكننا ببساطة مواكبة تسارع هذه النماذج، وهي تتحول إلى أنظمة معقدة بلا إشراف حقيقي”. وفي السياق ذاته، صرّح الباحث ستيفن أدلر بأن الخطر لا يكمن…
“شات جي بي تي تحت المجهر: جدل الخصوصية ومخاوف المستخدمين”
كتب : رشا حجاج في زمن أصبحت فيه تطبيقات الذكاء الاصطناعي جزءًا من الحياة اليومية، لم يعد الأمر مقتصرًا على الإبهار بقدراتها، بل تعدى ذلك ليطرح أسئلة جوهرية حول الخصوصية، وأمان البيانات، وحق المستخدم في النسيان ،ومن بين أبرز هذه الأدوات، تبرز منصة ChatGPT التابعة لشركة OpenAI، والتي أثارت مؤخراً حالة من الجدل على مواقع التواصل الاجتماعي، بعدما تداول بعض المستخدمين تحذيرات تفيد بأن “شات جي بي تي يحتفظ بمحادثاتك حتى بعد حذفها”. ولكن ما مدى صحة هذا الادعاء؟ وهل حقًا يحتفظ النظام بالمحتوى بعد حذفه؟ وهل هناك مخاطر على خصوصية المستخدم؟ أم أن الأمر أُسيء فهمه أو ضُخم دون تحقق؟ من أين بدأ القلق؟ بدأت القصة عندما انتشرت تغريدات ومنشورات على فيسبوك وتويتر تحذر المستخدمين من أن “ChatGPT يحتفظ بكل شيء حتى لو قمت بحذف المحادثة من حسابك”. وسرعان ما تفاعل عدد كبير من النشطاء مع تلك المنشورات، وسط قلق من إمكانية استخدام محتوى المحادثات لأغراض تجارية أو مراقبة. بعض المعلقين ذهبوا إلى أبعد من ذلك، متهمين الشركات المطورة لأدوات الذكاء الاصطناعي بـ”تجميع البيانات” و”بناء ملفات عن المستخدمين”، بينما طالب آخرون بمزيد من الشفافية حول آليات جمع البيانات، ومع من يتم مشاركتها، وكم من الوقت تُخزَّن. رد OpenAI: الشفافية والإعدادات في يد المستخدم في المقابل، تؤكد شركة OpenAI، المطورة لChatGPT، أن لديها سياسات واضحة بشأن حفظ البيانات، وتمنح المستخدمين تحكمًا كاملاً في ما إذا كانوا يريدون حفظ محادثاتهم أم لا. فمن خلال إعدادات الخصوصية في حساب المستخدم، يمكن تعطيل ميزة “Chat History & Training”، وعند تفعيل ذلك الخيار، فإن…
“رحلة OpenAI وراء الكواليس: ‘Artificial’ يكشف أسرار صناعة الذكاء الاصطناعي”
كتب : رشا حجاج في عالم سريع التطور، حيث تُعيد تقنيات الذكاء الاصطناعي تشكيل الصناعات والحياة اليومية، يبرز فيلم جديد بعنوان “Artificial”، يُسلط الضوء على قصة واحدة من أبرز الشركات في هذا المجال، وهي شركة OpenAI. الفيلم الذي لا يزال قيد التجهيز، يُقدم للمشاهدين نظرة درامية عميقة على الكواليس والتحديات التي واجهتها OpenAI في سعيها نحو تطوير تقنيات الذكاء الاصطناعي المتقدمة. لمحة عن الفيلم وأهدافه “Artificial” هو فيلم درامي وثائقي يتناول الرحلة المعقدة لـ OpenAI، التي تأسست بهدف دفع حدود الذكاء الاصطناعي إلى آفاق جديدة مع الحفاظ على قيم السلامة والأخلاق. الفيلم يستعرض الصراعات الداخلية، القرارات الحاسمة، والتحديات التقنية والأخلاقية التي واجهها الفريق أثناء تطوير تقنيات مثل GPT-3 وGPT-4. يركز الفيلم على التوترات بين الحاجة إلى الابتكار السريع والقلق من الآثار المحتملة لهذه التقنيات على المجتمع، بالإضافة إلى الصراع بين الطموحات التجارية والالتزام بالقيم الإنسانية. خلفية عن OpenAI ودورها في صناعة الذكاء الاصطناعي تأسست OpenAI في 2015 كمؤسسة بحثية تهدف إلى تطوير ذكاء اصطناعي آمن وموثوق يمكن أن يفيد البشرية جمعاء. ومنذ ذلك الحين، تحولت إلى واحدة من أبرز الشركات الرائدة في المجال، خاصة مع إطلاق نماذج متقدمة من الذكاء الاصطناعي القادر على فهم وإنتاج اللغة الطبيعية. تعتبر تقنيات OpenAI، مثل GPT-4، من بين أكثر النماذج تطورًا، حيث تستخدم في تطبيقات متعددة، من المحادثات الذكية إلى دعم عمليات البحث وتحليل البيانات. المحاور الدرامية في الفيلم يركز “Artificial” على عدة محاور درامية مثيرة تشمل: تحديات الابتكار: الصعوبات التقنية الهائلة التي واجهها الفريق في تصميم نماذج قادرة على التعلم الذاتي والتفاعل بشكل…
