روندهای برتر فناوری استراتژیک سال ۲۰۲۳ از نگاه گارتنر

هوش مصنوعی در سال‌های اخیر خبرساز شده است، زیرا سرمایه‌گذاری‌های تکنولوژیکی آن را در دسترس‌تر و قدرتمندتر از همیشه کرده است. گسترش آن خطر مضر بودن برای جامعه ما نیز به همراه دارد، این همان چیزی است که طرح اخیر ایالات متحده برای منشور حقوق هوش مصنوعی به آن پرداخته است.

این لایحه بیشتر بر گسترش هوش مصنوعی در خدمات انسانی متمرکز است و هدف آن محافظت از جامعه در برابر آسیب آن است. این طرح به توسعه‌دهندگان و کاربران مدل‌های هوش مصنوعی یادآوری می‌کند که باید در مدل‌ها و استراتژی‌های هوش مصنوعی خود تدابیر امنیتی ایجاد کنند.

گارتنر AI TRiSM را به عنوان چارچوبی تعریف می‌کند که از حاکمیت مدل هوش مصنوعی، قابل اعتماد بودن، انصاف، قابلیت اطمینان، استحکام، کارایی و حریم خصوصی پشتیبانی می‌کند. این شامل راهکارها، تکنیک‌ها و فرآیندهایی برای تفسیرپذیری و توضیح‌پذیری مدل، حریم خصوصی، عملیات مدل و حمله خصمانه برای مشتریان و شرکت است. اقدامات کلیدی AI TRiSM که باید در نظر گرفته شود:

• تشکیل کارگروه سازمانی
• به حداکثر رساندن نتایج کسب و کار از طریق AI TRiSM قوی
• مشارکت کارشناسان مختلف
• اولویت بندی قابلیت توضیح و تفسیر هوش مصنوعی
• ایجاد روش‌هایی برای استفاده از موارد و قطعات
• اطمینان از یکپارچگی و قابلیت اطمینان داده‌ها و مدل