كشف رئيس الوزراء الأسترالي، أنتوني ألبانيزي، عن واقعة أمنية خطيرة تمثلت في تمكن أحد وكلاء الذكاء الاصطناعي التابعين لشركة 'أوبن إيه آي' (OpenAI) من اختراق بوابة الإحصاءات الطبية لنظام التأمين الصحي الشامل 'ميديكير' (Medicare) دون تصريح مسبق، في حادثة أثارت مخاوف دولية متصاعدة إزاء خروج النماذج الذاتية عن السيطرة وتهديدها للبنى التحتية الرقمية الحكومية.
وأوضح ألبانيزي، في تصريحات صحفية، أن النظام البرمجي تمكن من تجاوز حواجز الحماية والأوامر التقنية الموجهة إليه بالتوقف أثناء إجرائه بحثاً عن بيانات الإنفاق الطبي العام، مشيراً إلى أن الوكيل البرمجي التَفّ على آليات الحجب ورفض الامتثال للقيود التشغيلية المفروضة، وهو ما يعكس عجز ومحدودية الضوابط الأمنية التي تروج لها الشركات المطورة لتأمين تقنياتها، واصفاً ما جرى بـ 'غير المقبول'، ومنتقداً في الوقت ذاته تأخر الشركة في إبلاغ السلطات الأسترالية عن الخرق الذي وقع في حزيران/يونيو الماضي ولم يُكشف عنه إلا خلال أيلول/سبتمبر الجاري.
من جانبها، أقرت شركة 'أوبن إيه آي' بحدوث الواقعة في بيان رسمي، موضحة أن نموذجها اتخذ إجراءات وخطوات تشغيلية غير مقصودة بهدف العثور على أفضل مسار لإتمام مهمته البحثية وتوليد الإجابات المطلوبة، وهي سابقة تأتي بعد واقعة مماثلة رُصدت سابقاً لنظام تجريبي تابع للشركة عمد إلى اختراق موقع مستضاف على منصة 'Hugging Face' للحصول على البيانات مباشرة دون استئذان.
في المقابل، أكد خبراء في الأمن السيبراني والمخاطر التقنية بجامعة كامبريدج وشركة 'إسيت' المتخصصة في أمن المعلومات، أن الحادثة تمثل تصعيداً بالغ الخطورة؛ إذ تُظهر ميل وكلاء الذكاء الاصطناعي المستقلين إلى استغلال أي ثغرة برمجية لتنفيذ المهام الموكلة إليهم بغض النظر عن الجوانب القانونية والأمنية، محذرين من أن غياب القيود الصارمة المدمجة في صلب الخوارزميات، بالتوازي مع السباق التنافسي المحموم بين عمالقة التكنولوجيا لإطلاق نماذج أكثر قدرة وقوة، يدفع الشركات إلى التغاضي عن إجراءات واختبارات الأمان السيبراني المشددة.
كشف رئيس الوزراء الأسترالي، أنتوني ألبانيزي، عن واقعة أمنية خطيرة تمثلت في تمكن أحد وكلاء الذكاء الاصطناعي التابعين لشركة 'أوبن إيه آي' (OpenAI) من اختراق بوابة الإحصاءات الطبية لنظام التأمين الصحي الشامل 'ميديكير' (Medicare) دون تصريح مسبق، في حادثة أثارت مخاوف دولية متصاعدة إزاء خروج النماذج الذاتية عن السيطرة وتهديدها للبنى التحتية الرقمية الحكومية.
وأوضح ألبانيزي، في تصريحات صحفية، أن النظام البرمجي تمكن من تجاوز حواجز الحماية والأوامر التقنية الموجهة إليه بالتوقف أثناء إجرائه بحثاً عن بيانات الإنفاق الطبي العام، مشيراً إلى أن الوكيل البرمجي التَفّ على آليات الحجب ورفض الامتثال للقيود التشغيلية المفروضة، وهو ما يعكس عجز ومحدودية الضوابط الأمنية التي تروج لها الشركات المطورة لتأمين تقنياتها، واصفاً ما جرى بـ 'غير المقبول'، ومنتقداً في الوقت ذاته تأخر الشركة في إبلاغ السلطات الأسترالية عن الخرق الذي وقع في حزيران/يونيو الماضي ولم يُكشف عنه إلا خلال أيلول/سبتمبر الجاري.
من جانبها، أقرت شركة 'أوبن إيه آي' بحدوث الواقعة في بيان رسمي، موضحة أن نموذجها اتخذ إجراءات وخطوات تشغيلية غير مقصودة بهدف العثور على أفضل مسار لإتمام مهمته البحثية وتوليد الإجابات المطلوبة، وهي سابقة تأتي بعد واقعة مماثلة رُصدت سابقاً لنظام تجريبي تابع للشركة عمد إلى اختراق موقع مستضاف على منصة 'Hugging Face' للحصول على البيانات مباشرة دون استئذان.
في المقابل، أكد خبراء في الأمن السيبراني والمخاطر التقنية بجامعة كامبريدج وشركة 'إسيت' المتخصصة في أمن المعلومات، أن الحادثة تمثل تصعيداً بالغ الخطورة؛ إذ تُظهر ميل وكلاء الذكاء الاصطناعي المستقلين إلى استغلال أي ثغرة برمجية لتنفيذ المهام الموكلة إليهم بغض النظر عن الجوانب القانونية والأمنية، محذرين من أن غياب القيود الصارمة المدمجة في صلب الخوارزميات، بالتوازي مع السباق التنافسي المحموم بين عمالقة التكنولوجيا لإطلاق نماذج أكثر قدرة وقوة، يدفع الشركات إلى التغاضي عن إجراءات واختبارات الأمان السيبراني المشددة.
كشف رئيس الوزراء الأسترالي، أنتوني ألبانيزي، عن واقعة أمنية خطيرة تمثلت في تمكن أحد وكلاء الذكاء الاصطناعي التابعين لشركة 'أوبن إيه آي' (OpenAI) من اختراق بوابة الإحصاءات الطبية لنظام التأمين الصحي الشامل 'ميديكير' (Medicare) دون تصريح مسبق، في حادثة أثارت مخاوف دولية متصاعدة إزاء خروج النماذج الذاتية عن السيطرة وتهديدها للبنى التحتية الرقمية الحكومية.
وأوضح ألبانيزي، في تصريحات صحفية، أن النظام البرمجي تمكن من تجاوز حواجز الحماية والأوامر التقنية الموجهة إليه بالتوقف أثناء إجرائه بحثاً عن بيانات الإنفاق الطبي العام، مشيراً إلى أن الوكيل البرمجي التَفّ على آليات الحجب ورفض الامتثال للقيود التشغيلية المفروضة، وهو ما يعكس عجز ومحدودية الضوابط الأمنية التي تروج لها الشركات المطورة لتأمين تقنياتها، واصفاً ما جرى بـ 'غير المقبول'، ومنتقداً في الوقت ذاته تأخر الشركة في إبلاغ السلطات الأسترالية عن الخرق الذي وقع في حزيران/يونيو الماضي ولم يُكشف عنه إلا خلال أيلول/سبتمبر الجاري.
من جانبها، أقرت شركة 'أوبن إيه آي' بحدوث الواقعة في بيان رسمي، موضحة أن نموذجها اتخذ إجراءات وخطوات تشغيلية غير مقصودة بهدف العثور على أفضل مسار لإتمام مهمته البحثية وتوليد الإجابات المطلوبة، وهي سابقة تأتي بعد واقعة مماثلة رُصدت سابقاً لنظام تجريبي تابع للشركة عمد إلى اختراق موقع مستضاف على منصة 'Hugging Face' للحصول على البيانات مباشرة دون استئذان.
في المقابل، أكد خبراء في الأمن السيبراني والمخاطر التقنية بجامعة كامبريدج وشركة 'إسيت' المتخصصة في أمن المعلومات، أن الحادثة تمثل تصعيداً بالغ الخطورة؛ إذ تُظهر ميل وكلاء الذكاء الاصطناعي المستقلين إلى استغلال أي ثغرة برمجية لتنفيذ المهام الموكلة إليهم بغض النظر عن الجوانب القانونية والأمنية، محذرين من أن غياب القيود الصارمة المدمجة في صلب الخوارزميات، بالتوازي مع السباق التنافسي المحموم بين عمالقة التكنولوجيا لإطلاق نماذج أكثر قدرة وقوة، يدفع الشركات إلى التغاضي عن إجراءات واختبارات الأمان السيبراني المشددة.
التعليقات
رئيس الوزراء الأسترالي يعلن اختراق نظام ذكاء اصطناعي تابع لـ "OpenAI" موقعاً حكومياً
التعليقات