این دسته به بررسی نقش هوش مصنوعی در تولید و انتشار اطلاعات نادرست (Misinformation) و اطلاعات ساختگی زیانبار (Disinformation) میپردازد. چتباتها میتوانند به راحتی اطلاعاتی را تولید کنند که به نظر معتبر میآیند اما کاملاً ساختگی هستند. مورد غمانگیز مردی که به دلیل اعتماد به آدرس جعلی ارائهشده توسط یک چتبات جان خود را از دست داد، یک نمونه افراطی از خطرات دنیای واقعی این پدیده است. علاوه بر این، توانایی چتباتها در جعل هویت افراد و ایجاد گفتگوهای ساختگی، پتانسیل بالایی برای فریب، کلاهبرداری و آسیب رساندن به اعتبار افراد دارد. این چالشها نیازمند راهحلهای فنی و سیاستی برای تشخیص و مقابله با محتوای تولید شده توسط هوش مصنوعی است.
در پی افزایش نگرانیها و گزارشهای نگرانکننده، شرکت متا در حال برداشتن گامهای مهمی برای اصلاح نحوه تعامل چتباتهای هوش مصنوعی خود با کاربران، به ویژه افراد زیر سن قانونی، است. این شرکت تأیید کرده که در حال بازآموزی فعالانه مدلهای هوش مصنوعی خود برای محافظت از مخاطبان جوانتر است. 🤖 دستورالعملهای جدید با هدف … Read more