استفاده از هوش مصنوعی زایا می‌تواند اسرار شرکت‌ها را به خطر بیندازد

شرکت هایی که از ابزارهای هوش مصنوعی مانند ChatGPT استفاده می کنند، احتمالا اطلاعات محرمانه مشتری و اسرار تجاری را در معرض خطر قرار می دهند. اگرچه استفاده گسترده از این ابزارها ممکن است مزایایی داشته باشد، اما واضح است که بی ضرر نیست.

گزارش بلومبرگ شرکت سرمایه گذاری Team8 می گوید استفاده از چت ربات های هوش مصنوعی می تواند برای شرکت ها آسیب پذیری ایجاد کند افشای اطلاعات و دعوی قضایی تحلیلگران کند معتقدند که این چت بات ها می توانند توسط هکرها برای دسترسی به اطلاعات حساس شرکت یا انجام عملیات علیه شرکت مورد استفاده قرار گیرند.

ابزارهای هوش مصنوعی با اطلاعات موجود در اینترنت آموزش می بینند، اما اکنون با گسترش این ابزارها در بین انسان ها، اگر اطلاعات محرمانه دولت یا شرکت های خصوصی به آنها داده شود، حذف آن اطلاعات از حافظه چت بات ها دشوار خواهد بود.

تحلیلگران Team8 می گویند: “استفاده تجاری از هوش مصنوعی با ارائه داده ها به طور مستقیم یا از طریق API ها می تواند منجر به کسب و پردازش اطلاعات حساس، مالکیت معنوی، کد منبع، اسرار تجاری و سایر داده ها شود.” این شرکت معتقد است که ریسک این مشکل زیاد است اما اگر تدابیر امنیتی مناسبی در نظر بگیریم می تواند این ریسک را کنترل کند.

چگونه اطلاعات کاربر ابزارهای هوش مصنوعی Zaya به خطر می افتد؟

با این حال، Team8 اشاره کرد که مدل‌های زبان بزرگ در حال حاضر نمی‌توانند اطلاعات خود را در زمان واقعی به‌روزرسانی کنند و بنابراین اطلاعات یک کاربر را در پاسخ کاربر دیگر نشان نمی‌دهند. با این حال، شرکت ها ممکن است از ورودی های کاربر استفاده کنند آموزش نسخه های دیگر ابزار هوش ساختگی استفاده کنید

در این گزارش همچنین به سه خطر خطرناک دیگر هنگام استفاده از ابزارهای هوش مصنوعی اشاره شده است. به عنوان مثال، در سمت کاربر، اگر برنامه های شخص ثالث از یک API AI استفاده کنند، اگر این API به خطر بیفتد، ممکن است دسترسی به ایمیل و مرورگر وب کاربران وجود خواهد داشت.

از سوی دیگر، این خطر وجود دارد که هوش مصنوعی تبعیض گسترش یابد، به اعتبار شرکت ها آسیب برساند یا آنها را شرمنده کند مسائل کپی رایت صورت

آن جانسون، معاون شرکت مایکروسافت، و چندین مدیر امنیت اطلاعات در شرکت های آمریکایی از جمله کسانی بودند که در تهیه این گزارش مشارکت داشتند.