خوارزميات آمنة.. شفرات مجانية لحماية المراهقين رقمياً
أتاحت شركة ”أوبن أيه آي“، الثلاثاء، شفرات برمجية مفتوحة المصدر لتمكين المطورين من بناء تطبيقات آمنة للمراهقين، تهدف إلى حظر المحتوى العنيف والجنسي، ضمن سياسات رقابية متوافقة مع نموذجها ”gpt-oss-safeguard“.
أوضحت الشركة أن المبادرة المعتمدة على سياسات سلامة المراهقين، صُممت للعمل بسلاسة مع نموذج الأمان مفتوح الوزن، بهدف تعزيز حماية التطبيقات دون حاجة المطورين للبدء من الصفر.
وتتصدى التعليمات البرمجية الجديدة للمشكلات المرتبطة بالعنف البصري، والمحتوى الجنسي، والسلوكيات الضارة بالجسم، إلى جانب الأنشطة الخطرة والسلع والخدمات المقيدة بالعمر.
وبيّنت ”أوبن أيه آي“ أن صياغة هذه المطالبات تمت بالتعاون مع منظمات رقابية متخصصة بسلامة الذكاء الاصطناعي، أبرزها ”كومون سينس ميديا“ و”everyone.ai“، لتسهيل دمجها مع النماذج اللغوية الأخرى.
وأكد رئيس قسم تقييم الذكاء الاصطناعي في ”كومون سينس ميديا“ روبي تورني، أن هذه السياسات تضع حداً أدنى واضحاً للسلامة داخل النظام البيئي، مع إمكانية تعديلها مستقبلاً لكونها مفتوحة المصدر.
ولفتت الشركة في مدونتها إلى معاناة الفرق البرمجية في تحويل أهداف السلامة إلى قواعد دقيقة، ما يخلق عادة ثغرات وتطبيقاً غير متسق للفلترة الرقمية، جاعلة من السياسات المحددة أساساً حيوياً لأي نظام فعال.
وتأتي هذه السياسات استكمالاً لجهود سابقة شملت أدوات الرقابة الأبوية وتقدير العمر، بالإضافة إلى تحديث إرشادات التعامل مع المستخدمين دون سن 18 عاماً لضبط سلوكيات الذكاء الاصطناعي.
ورغم هذه الخطوات، تواجه الشركة دعاوى قضائية من عائلات ضحايا انتحار ارتبط باستخدام ”ChatGPT“، ما يجعل السياسات الجديدة أداة جوهرية لدعم المطورين المستقلين في بناء بيئات رقمية أكثر أماناً.
