الذكاء الاصطناعي قادر على تزييف معلومات أمنية وطبية

تمتلئ شبكة الإنترنت بمعلومات خاطئة أو مضللة. سواء تم نشره عن قصد أو عن غير قصد ، تعرض العديد من الشبكات الاجتماعية مثل Facebook أو Twitter شرحًا بجانب المنشور في حالة الاشتباه في أنه مضلل ، وبالطبع يلعب الذكاء الاصطناعي دورًا كبيرًا في ذلك.

تكون المعلومات المضللة أكثر خطورة إذا كانت تؤثر على مناطق حساسة. مثل الأمن الرقمي والصحة والأمن العام. كشف طالب دراسات عليا يجري بحثا في مجال الأمن الرقمي عن مخاطر الذكاء الاصطناعي في هذا الصدد.

هذا هو المكان الذي كشفت فيه بريانكا راناد أن الذكاء الاصطناعي قادر على توليف معلومات كاذبة ومضللة في مجالات حساسة مثل الطب والدفاع وغيرها. كما أنه يفعل ذلك بشكل مقنع لدرجة أن بعض المتخصصين قد يصدقونه.

اقرأ أيضًا: الذكاء الاصطناعي لمنصة Tik Tok متاح للبيع

الذكاء الاصطناعي يهدد أمن المعلومات

يمكن استخدام المعلومات المضللة بهدف تشويه شخصية عامة أو كيان. ومع ذلك ، فإن استخدامه في المناطق الحساسة يمكن أن يؤدي إلى عواقب مخيفة.

يمكن أن تشمل هذه العواقب تقديم نصيحة طبية خاطئة من طبيب إلى مريض أو اتخاذ قرار يؤثر على آلاف الأشخاص. أجرت بريانكا وفريقها اختبارًا ذكيًا لقياس مدى خطورة المحتوى المضلل الناتج عن الذكاء الاصطناعي. هذا هو المكان الذي تم فيه تكليف العارضين بكتابة أخبار أمنية مزيفة أو كتابة دراسات طبية مزيفة عن COVID-19.

تم تقديم المحتوى الذي تم إنتاجه إلى محترفين في تلك المجالات. ثم لوحظ أن عددًا كبيرًا من هؤلاء المتخصصين تم خداعهم بسهولة.

تعتمد معظم التقنيات المستخدمة لتحديد المعلومات الخاطئة وإدارتها على قدرات الذكاء الاصطناعي ، حيث تتيح للمهنيين التحقق من صحة كمية كبيرة من المعلومات في فترة زمنية قصيرة.

اقرأ أيضًا: تتحدث أمازون عن روبوتات المستودعات الجديدة

على الرغم من أن الذكاء الاصطناعي ساعد البشر في التعرف على المعلومات الخاطئة بسرعة وكفاءة ، إلا أنه من المفارقات أنه تم استخدامه أيضًا لكتابة وإنتاج تلك المعلومات بأشكالها المختلفة.

وما تم إنتاجه من المحتوى المضلل بواسطة هذه التقنيات كان كافياً لإقناع كل من خبراء الأمن والأطباء ، على سبيل المثال ، تمكن نموذج ذكاء اصطناعي من كتابة تقرير عن ثغرات أمنية معينة ، وعندما تمت قراءة هذا التقرير من قبل أشخاص متخصصين في هذا المجال لم يعترضوا على محتواه.

تمكنت نفس النماذج أيضًا من كتابة تقارير عن جائحة COVID-19 ، والذي يتم إما بناءً على نموذج GPT من OpenAI أو BERT من Google. هم نماذج رئيسية للذكاء الاصطناعي.

إقرأ أيضاً: أبرز استخدامات الذكاء الاصطناعي في الرياضة وتحديداً كرة القدم

ربما تعرض عدد كبير من المستخدمين لمعلومات كاذبة وصحتها. عندما يتم كتابتها فعليًا بواسطة نموذج AI. والذي يحتاج فقط إلى إطعامه كمية كبيرة من المعلومات حول أي مجال لبدء الكتابة عنه كمحترف.

مقالات ذات صلة

زر الذهاب إلى الأعلى