مقترح أنثروبيك لتنظيم سلامة الذكاء الاصطناعي

مقترح أنثروبيك لسلامة الذكاء الاصطناعي

اقترحت شركة أنثروبيك، مطورة نماذج "كلود"، آلية لتنظيم سلامة الذكاء الاصطناعي.

يهدف المقترح لمواجهة مخاطر "فقدان السيطرة" المحتملة على الأنظمة المتقدمة.

يتعارض هذا التوجه مع السباق الحالي لتحقيق أعلى أداء في القطاع.

مخاطر فقدان السيطرة والتحديات الأمنية

حذرت أنثروبيك من اتخاذ قرارات أمنية صعبة دون ضوابط واضحة.

تتأثر هذه القرارات بضغوط المنافسة والتحديات الجيوسياسية.

تكشف بيانات داخلية عن إمكانية "التحسين الذاتي المتكرر" للذكاء الاصطناعي.

يعني ذلك قدرة الأنظمة على تدريب أجيالها اللاحقة بنفسها.

يقلص هذا التطور الدور البشري في عملية التطوير والتحكم.

نصيحة: يجب على الشركات والحكومات التعاون لوضع أطر تنظيمية فعالة.

مقارنات تاريخية ومسار التطور

قارن جاك كلارك، أحد مؤسسي أنثروبيك، مسار الذكاء الاصطناعي بالطفرة النفطية.

ترافقت الطفرة النفطية بقواعد أوجدت "الثقة" لدى الشعوب.

وصف كلارك قطاع الذكاء الاصطناعي بأنه يمتلك "دواسة وقود" بلا "دواسة مكابح".

يؤكد هذا التشبيه الحاجة الملحة لآليات التحكم والضوابط.

الاستجابات الحكومية والتنظيمية

ناقش الرئيس الأمريكي السابق دونالد ترامب التعاون مع الصين حول سلامة الذكاء الاصطناعي.

وقع ترامب مرسوماً تنفيذياً لتنظيم القطاع التكنولوجي.

يسمح المرسوم برقابة حكومية على النماذج الأكثر تقدماً.

تتم هذه الرقابة "على أساس تطوعي" تحت شعار الأمن السيبراني.

نصيحة: ينبغي أن تكون الأطر التنظيمية مرنة وقابلة للتكيف مع التطورات السريعة.

نماذج أنثروبيك وتحديات الأمن السيبراني

حرصت أنثروبيك على الحد من انتشار نموذجها "ميثوس" الأكثر تطوراً.

يهدف هذا الإجراء لإجراء تصحيحات مرتبطة بالأمن السيبراني.

تعتزم الشركة إطلاق نماذج ذات أداء مماثل في الأسابيع المقبلة.

يتوقع أن يصدر المنافسون أيضاً أنظمة مشابهة قريباً.

التحسين الذاتي للذكاء الاصطناعي يحمل تقدماً هائلاً للطب والاقتصاد.

لكنه يهدد أيضاً بـ"فقدان السيطرة" إذا لم يُنظم بشكل فعال.

خلاصة سريعة

• اقترحت أنثروبيك آليات لتنظيم سلامة الذكاء الاصطناعي.

• حذرت الشركة من مخاطر "فقدان السيطرة" المحتملة.

• أشارت إلى إمكانية "التحسين الذاتي المتكرر" لأنظمة الذكاء الاصطناعي.

• قارنت مسار الذكاء الاصطناعي بالطفرة النفطية والحاجة للضوابط.

• وقعت الولايات المتحدة مرسوماً تنفيذياً لتنظيم القطاع.

• تعمل أنثروبيك على تصحيح نماذجها لضمان الأمن السيبراني.