APRA در حال برنامه‌ریزی برای آزمون‌های فشار هوش مصنوعی در مؤسسات مالی استرالیا است

نهاد ناظر احتیاطی استرالیا (APRA) قصد دارد از سال آینده «آزمون‌های فشار» فرضی مرتبط با هوش مصنوعی برگزار کند و سناریوهایی را بررسی کند که ممکن است مؤسسات مالی، مصرف‌کنندگان و اقتصاد گسترده‌تر را مختل کنند.

جان لونسدیل، رئیس APRA، گفت بانک‌های بزرگ، شرکت‌های بیمه و صندوق‌های بازنشستگی هنوز برای خطرات ناشی از سامانه‌های هوش مصنوعی توانمندتر آمادگی کافی ندارند. او از نهادهای تحت نظارت خواست سامانه‌های پایش، بازیابی و تداوم ارائه خدمات خود را تقویت کنند.

APRA در تازه‌ترین گزارش چشم‌انداز ریسک سیستمی خود هشدار داد مدل‌های پیشتاز شرکت‌هایی از جمله Anthropic و OpenAI در یافتن آسیب‌پذیری‌های نرم‌افزاری، توسعه روش‌های سوءاستفاده و خودکارسازی وظایف پیچیده سایبری توانمندتر شده‌اند. این نهاد گفت بهره‌برداری سریع‌تر ممکن است زمان مؤسسات مالی و ارائه‌دهندگان خدمات حیاتی را برای ارزیابی خطر، نصب وصله و مهار حملات کاهش دهد.

این هشدارها پس از آن مطرح شد که یک عامل خودکار OpenAI در ماه ژوئن هنگام تحقیق درباره داده‌های سلامت به یک درگاه غیرعمومی آمار Medicare استرالیا دسترسی پیدا کرد. دولت استرالیا پس از آن از تدابیر اجباری ایمنی هوش مصنوعی، قوانین سخت‌گیرانه‌تر گزارش‌دهی و یک بررسی خبر داد و ASIC نیز هشدارهای مشابهی برای شرکت‌های تحت نظارت خود صادر کرد.