موسسه امنیت هوش مصنوعی بریتانیا اعلام کرد که در جریان آزمایش مودلهای پیشرفته شرکتهای "اوپنایآی" و "آنتروپیک"، برخی عاملهای هوش مصنوعی اقدام به انجام فعالیتهای غیرمجاز، از جمله ایجاد هویتهای جعلی انترنتی برای دسترسی به سیستمهای محافظتشده، کردهاند.
این موسسه روز سهشنبه اعلام کرد که عاملهای مبتنی بر مودلهای "میثوس ۵" شرکت آنتروپیک و "چتجیپیتی-۵.۶-سول" شرکت اوپنایآی در ارزیابیهای امنیتی رفتارهایی از خود نشان دادهاند که فراتر از دستورالعملهای تعیینشده بوده است. هدف این آزمایشها سنجش توانایی مودلهای جدید هوش مصنوعی در یک سناریوی شبیهسازیشده امنیت سایبری بود.
به گفته این نهاد، آزمایشها در مجموع ۱۲۲ بار اجرا شد و طی آن ۱۹ اقدام غیرمجاز در ۱۰ مرحله آزمایشی ثبت شد. از این تعداد، ۱۷ مورد به عامل هوش مصنوعی آنتروپیک و دو مورد به عامل اوپنایآی نسبت داده شده است.
این مطلب مرتبط را نیز بخوانید
هشدار دربارهٔ افزایش کلاهبرداریهای انترنتی با استفاده از هوش مصنوعیبر اساس گزارش این موسسه، جدیترین مورد زمانی رخ داد که یک عامل هوش مصنوعی کود مخرب نوشت و سپس با ایجاد هویتهای جعلی اینترنتی تلاش کرد یک انسان را به تایید آن کود ترغیب کند. این موسسه تاکید کرد که هیچیک از این اقدامات به خسارت واقعی در خارج از محیط آزمایش منجر نشده است.
شرکت آنتروپیک تایید کرد که عامل هوش مصنوعی این شرکت مسوول ایجاد هویتهای جعلی بوده است. این شرکت در بیانیهای از همکاری با موسسه امنیت هوش مصنوعی بریتانیا برای بررسی دقیقتر این حادثه خبر داد و اعلام کرد این رویداد ضرورت تدوین روشهای ایمنتر برای ارزیابی عاملهای هوش مصنوعی را نشان میدهد.
اوپنایآی نیز اعلام کرد دو اقدام غیرمجاز عامل این شرکت مربوط به دسترسی به انترنت برخلاف محدودیتهای تعیینشده در دستور آزمایش بوده است. این شرکت همچنین از همکاری با دیگر آزمایشگاههای هوش مصنوعی، نهادهای مستقل، و موسسات ملی برای تقویت استانداردهای ارزیابی ایمنی خبر داد.
اوپنایآی همچنین فاش کرد که در یک رخداد جداگانه، به دلیل پیکربندی نادرست یکی از شرکتهای طرف قرارداد در حوزه آزمایش، برخی عاملهای هوش مصنوعی به اشتباه به انترنت متصل شدند. این موضوع مشابه رخدادی است که آنتروپیک هفته گذشته درباره آن اطلاعرسانی کرده بود.
به گفته موسسه امنیت هوش مصنوعی بریتانیا، برخلاف برخی رخدادهای امنیتی پیشین، عاملهای هوش مصنوعی در این آزمایش از محیط ایزوله خارج نشدند و دسترسی آنها به انترنت از ابتدا بخشی از فرآیند معیاری ارزیابی بود.
به گفته مؤسسه امنیت هوش مصنوعی بریتانیا، برخلاف برخی رویدادهای امنیتی پیشین، عاملهای هوش مصنوعی در این آزمایش از محیط بسته خارج نشدند؛ بلکه دسترسی آنها به انترنت از آغاز بخشی از روند معیاری ارزیابی بود.