1. الرئيسية
  2. الجديد
الجديد

OpenAI تطلق مصنفًا لكشف استغلال الأطفال وتقييد 24 ساعة

OpenAI تطلق مصنفًا لكشف مواد استغلال الأطفال بواجهة API مجانية للمنظمات المعتمدة، وتحذيرًا في ChatGPT يقيد الحساب 24 ساعة.

عبدالرحمن سمير
مدرّب معتمد في الذكاء الاصطناعي والتسويق للقانونيين · باحث دكتوراه في الاقتصاد الإبداعي
٨ دقائق قراءة
غلاف مقال: OpenAI تطلق مصنفًا لكشف استغلال الأطفال وتقييد 24 ساعة
شارك المقالواتسابلينكدإنإكس
الخلاصةأعلنت OpenAI في 16 نوفمبر 2026 عن مصنف صور لكشف مواد استغلال الأطفال المولدة بالذكاء الاصطناعي، مع وصول مجاني عبر API للمنظمات المدققة، وتحذير في ChatGPT يوقف الحساب 24 ساعة عند أول مخالفة. يأتي ذلك وسط تضخم بلاغات خط المساعدة الأمريكي إلى 400 ألف بلاغ في 2025.

ما الذي أعلنته OpenAI باختصار

في مؤتمر صحفي بواشنطن يوم الاثنين 16 نوفمبر 2026، أعلنت OpenAI حزمة أدوات لمواجهة مواد استغلال الأطفال جنسيًا (CSAM)، بحسب إعلان الشركة وتقارير The Verge وTechCrunch. الحزمة أربعة عناصر:

أولًا، مصنف صور (classifier) يقول إنه يكتشف الصور المسيئة للأطفال، بما فيها المولدة بالذكاء الاصطناعي، ويعطي درجة تقييم تساعد المراجعين. وتقدمه الشركة عبر واجهة API مجانًا لمنظمات مدققة، بالتعاون مع NCMEC وTech Coalition وROOST.

ثانيًا، تحذير جديد داخل ChatGPT: من يحاول طلب محتوى ي sexualizes الأطفال يرى شاشة تحذير وإحالة إلى موارد دعم، مع إيقاف الوصول إلى الحساب 24 ساعة في المخالفة الأولى، واحتمال الإغلاق النهائي عند التكرار.

ثالثًا، دليل إرشادي للمطورين حول كيفية منع هذا المحتوى وكشفه والإبلاغ عنه.

رابعًا، أدوات لإنفاذ القانون تشمل إضافات مخصصة وأدوات تحقيق وتحليل بيانات، مع تدريب ودليل ميداني للمحققين.

الفرق عمّا سبق وما ينافسه

ليست هذه أول مرة تعلن فيها شركة تقنية عن أدوات لمكافحة CSAM، لكن الفارق الذي تصفه OpenAI نوعي لا كمي فقط. بحسب John Buckley، رئيس سياسة سلامة الأطفال العامة في الشركة، هذا أول مصنف CSAM متاح على نطاق واسع يحمل علامة محددة للصور المولدة بالذكاء الاصطناعي، ما يسمح للمراجعين بالتمييز بين «طفل خيالي» و«طفل حقيقي». هذه التفرقة تبدو جوهرية في تدفقات الإبلاغ.

الأمر الثاني هو الأداء: تقول الشركة إن المصنف في اختباراته الأولية مع شركائها يعلّم 48% صورًا أقل مع اكتشاف العدد نفسه من الصور المسيئة، وإن الصور التي يعلّمها تضاعف احتمال كونها مسيئة فعلًا. هذا يعني تقليل الضجيج الذي يرهق المراجعين، لا مجرد زيادة الكشف.

الثالث هو نموذج الوصول: API مجاني للمنظمات المدققة، لا منتج تجاري. هذا يخالف منطق البدائل التي غالبًا ما تكون أدوات مغلقة داخل منصات أو حلولًا تجارية. ويمكن مقارنة ذلك بما تقدمه فرق داخل شركات كبرى أخرى، لكن لا تقدم المصادر أرقامًا عن أداء منافس بعينه، فلا يصح عقد مقارنة عددية.

الرابع هو الجمع بين الأدوات والتحذير داخل المنتج الاستهلاكي نفسه: ChatGPT يمنع الطلب أصلًا، لكنه يضيف طبقة ردع سلوكي، وهي أقرب إلى «الوقاية» من منطق «المعالجة بعد الضرر» الذي يحكم عمل النيابات العامة كما وصفه المدعي العام لولاية كارولينا الشمالية Jeff Jackson.

البندما أعلنته OpenAIالوضع السابق/البدائل
كشف الصورمصنف يكشف صورًا لم تُرَ من قبل، مع علامة للصور المولدة بالذكاء الاصطناعيعرضة لضجيج كبير في خطوط الإبلاغ؛ لا تقدم المصادر أرقام أداء بدائل
تقليل الإيجابيات الكاذبة48% صور أقل معلّمة مع العدد نفسه من الصور المسيئةلم تعلن المصادر رقمًا مماثلًا لأي بديل
نموذج الوصولAPI مجاني للمنظمات المدققةأدوات عادة داخل المنصات أو تجارية
الردع السلوكيتحذير وإيقاف 24 ساعة في المخالفة الأولىحجب الطلب فقط دون طبقة ردع سلوكي معلن

فيمَ يفيد فعلًا: ثلاث حالات عملية

الأداة ليست موجهة للمحامين عمومًا، لكنها تخلق مساحة عمل جديدة للقانونيين والمكاتب والمبدعين الذين يتعاملون مع محتوى رقمي حساس. ثلاث حالات:

أولًا، فريق الامتثال في منصة أو ناشر رقمي. المنصة التي تتيح رفع محتوى من المستخدمين تحتاج إلى فرز منهجي لآلاف البلاغات اليومية. باستخدام المصنف عبر API يمكن لفريق الامتثال ترتيب البلاغات بحسب درجة الخطورة، فتذهب الحالات الأعلى احتمالًا إلى المراجعة البشرية أولًا. المثال الواقعي: منصة تعليمية يتيح طلابها رفع صور، وتبلغ عن محتوى مشتبه فيه؛ بدلًا من مراجعة عشوائية، يصنف النظام البلاغات ويحيل المرجح إلى محامي الشركة قبل الإبلاغ الرسمي عن أي حالة.

ثانيًا، مكتب محاماة يعمل في قضايا حماية الطفل أو الجرائم الرقمية. التحقيق الدفاعي أو الاستشاري يتطلب غربلة كم كبير من الأدلة الرقمية. المصنف يقلل ما يحتاج المحامي إلى اطلاع عليه من الصور غير ذات الصلة، وهو ما يقلل التعرض الصادم ويوفر ساعات مراجعة. مثال: مكتب يحضر تقريرًا خبيرًا في قضية تشهير رقمي متضمن صورًا مشتبهًا في أنها مولدة بالذكاء الاصطناعي، فيستخدم المصنف لتصنيف الصور المتاحة إليه قبل إحالتها إلى الخبير، مع مراعاة بروتوكولات التعامل مع الأدلة.

ثالثًا، صاحب مشروع إبداعي أو استوديو محتوى. الاستوديو الذي يبني قاعدة صور أو يولد صورًا لعملاء يواجه خطر أن يتسرب إلى نظامه محتوى محظور، أو أن يُتقاضى بلاغ ضده. وجود أداة فرز داخل مسار المراجعة قبل النشر يقلل المخاطرة. مثال: استوديو تصميم يعتمد على مولّدات صور مفتوحة المصدر يستخدم المصنف قبل اعتماد أي دفعة صور في مشروع، فيوثق سياق الفحص ويتجنب إعادة العمل. ولمن يبني مثل هذه المسارات، هذا امتداد طبيعي لما نشرناه في الذكاء الاصطناعي للمشاريع الصغيرة: 7 استخدامات عملية.

على مَن وماذا سيؤثر

التأثير الأول على خطوط الإبلاغ نفسها. بحسب The Verge، تلقى CyberTipline التابع لـNCMEC نحو 400 ألف بلاغ متعلق بالذكاء الاصطناعي التوليدي في 2025، مقابل 67 ألفًا في 2024. هذا نمو هائل دفع باحثين إلى التحذير من أن حجم العمل قد يصبح غير قابل للإدارة. أي أداة تقلل الإيجابيات الكاذبة بنصف تقريبًا وتضاعف دقة ما يبقى، تبدو ذات أثر مباشر على قدرة الفرق على الاستجابة.

التأثير الثاني على السوق: مصنف مجاني عبر API للمنظمات المدققة يضع معيارًا يضغط على المنافسين. المنصات التي تقدم أدوات كشف تجارية ستُسأل لماذا لا توفر وصولًا مماثلًا للمنظمات غير الربحية. وربما يدفع هذا إلى موجة تعاون بين الشركات والجهات المدنية، كما حدث مع Tech Coalition وROOST.

التأثير الثالث على طريقة العمل داخل الشركات: تحذير الـ24 ساعة داخل ChatGPT يعني أن سياسة الاستخدام ستُقرأ من زاوية جديدة. المستخدم الذي يحاول الوصول إلى محتوى محظور لن يواجه حجبًا فقط، بل إيقافًا مؤقتًا موثقًا. هذا يرفع المخاطر التشغيلية على الحسابات العامة، ويجعل الحوكمة الداخلية للمؤسسات التي تستخدم ChatGPT جزءًا من الامتثال.

التأثير الرابع على المهن القريبة: فرق الامتثال والمراجعة البشرية ستتحول من «الغربلة» إلى «الحكم»، وهو تحول يشبه ما يجري في المكاتب القانونية مع الوكلاء الذكيين كما ناقشنا في مسؤولية المحامي والوكيل الذكي: من يقترح ومن يعتمد؟. الأداة تقترح، لكن الاعتماد البشري يبقى ضروريًا.

يُضاف إلى ذلك أن ثماني ولايات أمريكية قاضت OpenAI مؤخرًا بحسب The Verge في قضايا منفصلة تتعلق بسلامة الأطفال، وأن تقريرالات تهدف إلى تقييد الشركات. لذلك يبدو الإعلان أيضًا محاولة لصياغة نموذج تعاون استباقي بدلًا من رد فعل بعد التقاضي، وهو ما وصفه المدعي العام Jackson بأنه «ما زال في جوهره تجربة».

ما يحسن الانتباه له

الخصوصية والسرية المهنية. المصنف يعالج صورًا، وقد تكون صورًا لعملاء. لا تقدم المصادر تفاصيل عن ضمانات الاحتفاظ أو المشاركة عبر API، ولم يُعلن عنها صراحة، فيُفترض أن المؤسسة ستطلب توضيحًا تعاقديًا قبل تمرير أي صورة. بالنسبة للمكاتب، أي إحالة صور إلى خدمة خارجية تتداخل مع واجب السرية المهنية، ومع ما تناولناه في تدريب الوكيل الذكي على مصادر المكتب بأمان.

الدقة. الشركة تقول إن المصنف يقلل الإيجابيات الكاذبة 48% ويضاعف احتمال الإصابة في الصور المعلّمة، لكن هذه أرقام اختبارات أولية مع شركاء (بحسب TechCrunch)، لا ضمان أداء في كل سياق. الاعتماد الأعمى على درجة التصنيف قد يترك حالات دون مراجعة، أو يوجه جهدًا إلى حالات ليست مسيئة.

حدود الاستخدام. الأدوات موجهة للمنظمات المدققة وإنفاذ القانون، لا للمستخدم العادي. لا تقدم المصادر سعرًا عامًا، ولا يوجد إعلان عن إتاحة مفتوحة. من يريد استخدامها يحتاج اجتياز تدقيق، وهذا مهم لتفادي أن تتحول الأداة إلى ميزة تنافسية أو وسيلة مراقبة غير منضبطة.

الملكية الفكرية والسياق القانوني. الصور المولدة بالذكاء الاصطناعي تخلق إشكالية إثبات: من المتهم، وهل الضحية حقيقية أم خيالية. Buckley نفسه يقول إن الشركة تريد من الصناعة فهم ما إذا كانت الصورة تعرض طفلًا خياليًا، لكن القانون في الولايات المتحدة يعتبر النوعين غير قانونيين. هذا النقاش يشبه بشكل ما إشكالات نسبة الأصول المبتكرة بالذكاء الاصطناعي التي تناولناها في تقييم الأصول المبتكرة بمساعدة الذكاء الاصطناعي: عدم يقين النسبة.

كيف يمكن الاطلاع والتجربة

بحسب المصادر، الوصول إلى المصنف متاح عبر API للمنظمات المدققة، مجانًا. الشركة تقول إنها تعمل مع Tech Coalition وROOST لتوسيع المشاركة. لا تقدم المصادر تاريخًا محددًا لفتح التسجيل العام ولا رابطًا مباشرًا للتقديم، لذا من يريد المتابعة عليه الرجوع إلى إعلان الشركة الرسمي وقنوات المنظمات الشريكة.

أما التحذير داخل ChatGPT فيُتاح تدريجيًا للمستخدمين بحسب الشركة، ولا يحتاج إعدادًا. من يكتب طلبًا محظورًا سيرى شاشة تحذير، ويُوقف حسابه 24 ساعة في المرة الأولى، مع إمكانية الإغلاق عند التكرار.

الخطوة العملية للمؤسسة: قبل تبني المصنف، ضع سياسة مكتوبة لمن يملك حق تفعيله، وكيف تُسجل الدرجات، وما الذي يحدث للصور المعلّمة، ومن يفصل في الإبلاغ النهائي. الأدوات لا تغني عن الحوكمة.

المصادر

أسئلة شائعة

هل المصنف الجديد متاح لأي مستخدم؟

لا. بحسب إعلان OpenAI والتقارير، الوصول عبر API مجاني لكنه مخصص لمنظمات مدققة، مع تعاون مع NCMEC وTech Coalition وROOST. لم تعلن الشركة عن فتح الوصول للجمهور، ولا عن سعر تجاري عام، ولم تحدد المصادر موعدًا للتسجيل العام.

ما الجديد في تحذير ChatGPT مقارنة بالحجب السابق؟

ChatGPT كان يمنع طلبات المحتوى المسيء أصلًا. الجديد، بحسب TechCrunch، أن المستخدم يرى شاشة تحذير وإحالة إلى موارد دعم، ويُوقف عن الوصول إلى حسابه 24 ساعة في المخالفة الأولى، مع احتمال الإغلاق النهائي عند التكرار. الفارق أنه ردع سلوكي موثق، لا مجرد حجب فني للطلب.

هل تعني هذه الأدوات أن المكاتب القانونية يمكنها الاعتماد عليها دون مراجعة بشرية؟

لا. الشركة تصف المصنف بأنه يعطي درجة تساعد المراجعين، وأرقام الدقة المعلنة من اختبارات أولية مع شركاء، لا من تشغيل مستقر. المراجعة البشرية تبقى ضرورية، خاصة مع واجب السرية المهنية عند تمرير صور قد تخص عملاء إلى خدمة خارجية.

شارك المقالواتسابلينكدإنإكس

تريد أن تطبّق هذا على عملك أو على فريقك؟ أخبرني أين تقف الآن، وأردّ عليك بنفسي.

تواصل معي
عبدالرحمن سمير
كاتب المقالعبدالرحمن سمير

أساعد القانونيين وأصحاب الأعمال على توظيف الذكاء الاصطناعي في التسويق والعمل اليومي، وأبحث في الاقتصاد الإبداعي في رسالة الدكتوراه. أكتب هنا ما أطبّقه وأجرّبه بنفسي.

اقرأ أيضًا

كل المقالات ←