المتانة التقنية والسلامة: تحتاج أنظمة الذكاء الاصطناعي إلى أن تكون آمنة ومتينة وقادرة على الصمود ضد الجهات السيئة والهجمات السيبرانية. يجب أن تقدم تنبؤات دقيقة تكون موثوقة وقابلة للتكرار. يجب على المنظمات إعطاء الأولوية للأمن السيبراني ووضع خطط طوارئ للهجمات وكيفية العمل إذا تعطل النظام. يحتاجون إلى إيلاء اهتمام خاص لتسمم البيانات العدائي، حيث يقوم المهاجمون الضارون بتغيير بيانات التدريب للتسبب في تنبؤات غير صحيحة.

الخصوصية والحكم: “يجب على أنظمة الذكاء الاصطناعي ضمان الخصوصية وحماية البيانات طوال دورة حياة النظام بأكملها.” يحتاج مطورو أنظمة الذكاء الاصطناعي إلى وضع ضمانات لمنع البيانات أو التعليمات البرمجية الضارة من التغذية في النظام. تؤكد الإرشادات أيضًا على أنه يجب فقط على المستخدمين المصرح لهم الوصول إلى بيانات الفرد، والتي يجب أن تكون عادلة وغير متحيزة وتتبع جميع لوائح الخصوصية طوال دورة حياتها. أحد المجالات التي تحتاج المنظمات إلى التفكير فيها هو ما يشكل “مستخدمًا مصرحًا به”؟ هل رأيت حالة Roomba التي التقطت صورًا لامرأة على المرحاض وانتهى بها الأمر على فيسبوك؟

الشفافية: يجب على المنظمات أن تكون قادرة على تتبع أصل البيانات، وفهم مصدرها، وكيف تم جمعها وتحويلها واستخدامها. يجب أن تكون هذه العملية قابلة للتدقيق، ويجب أن تكون مخرجات الذكاء الاصطناعي قابلة للتفسير. هذا يمثل تحديًا لعلماء البيانات لأن النماذج القابلة للتفسير غالبًا ما تكون أقل دقة من خوارزميات “الصندوق الأسود”. ينص هذا المطلب أيضًا على أن الأشخاص الذين يتفاعلون مع الذكاء الاصطناعي يجب أن يكونوا على دراية بأنهم يفعلون ذلك — بمعنى آخر، لا ينبغي للذكاء الاصطناعي أن يدعي أنه بشري ويجب أن يكون واضحًا أننا نتفاعل مع روبوت.

التنوع وعدم التمييز والعدالة: يجب أن يعامل الذكاء الاصطناعي جميع المجموعات على قدم المساواة — وهذا قد يكون أسهل قولًا من فعله. يقترح المطلب أن يشمل المصممون أشخاصًا من ثقافات وخبرات وخلفيات متنوعة للمساعدة في التخفيف من بعض التحيز التاريخي الذي يسود العديد من الثقافات. يجب أن يكون الذكاء الاصطناعي متاحًا للجميع، بغض النظر عن الإعاقة أو العوامل الأخرى. هذا يطرح السؤال، ما الذي يحدد “مجموعة”؟ هناك الفئات المحمية الواضحة — العمر، العرق، اللون، الدين/المعتقد، الأصل الوطني، الجنس، العمر، الإعاقة الجسدية أو العقلية أو حالة المحاربين القدامى. هل هناك عوامل أخرى يجب النظر فيها؟ إذا كنت شركة تأمين، هل يمكنني أن أفرض رسومًا أقل على الأشخاص الذين لديهم عادات “أكثر صحة” من أولئك الذين يعتبرون “غير صحيين”؟

الرفاهية المجتمعية والبيئية: يجب أن تهدف أنظمة الذكاء الاصطناعي إلى تحسين المجتمع، وتعزيز الديمقراطية، وخلق أنظمة صديقة للبيئة ومستدامة. مجرد أنك تستطيع فعل شيء، لا يعني أنه يجب عليك فعله. يحتاج قادة الأعمال إلى النظر بشكل نقدي في التأثيرات المجتمعية المحتملة للذكاء الاصطناعي. ما هي التكاليف المرتبطة بتدريب نماذج الذكاء الاصطناعي الخاصة بك؟ هل تتعارض مع سياساتك البيئية والاجتماعية والحوكمة (ESG)؟ لقد رأينا بالفعل أمثلة حيث تدفع منصات التواصل الاجتماعي مثل TikTok بمحتوى ضار للأطفال.

المساءلة: يجب على مصممي أنظمة الذكاء الاصطناعي أن يكونوا مسؤولين عن أنظمتهم، والتي يجب أن تكون قابلة للتدقيق وتوفر طريقة لأولئك المتأثرين بالقرارات لتصحيح أي قرارات غير عادلة. قد يتحمل المصممون المسؤولية عن أي ضرر يلحق بالأفراد أو المجموعات. هذا يثير سؤالًا مهمًا — من هو المسؤول إذا خرج النظام عن السيطرة؟ هل هو مزود نموذج الأساس أم الشركة التي تستخدم الذكاء الاصطناعي التوليدي؟