شکایت از گوگل به اتهام به خطر انداختن سلامت روان یک دختر ۱۳ ساله با هوش مصنوعی

به گزارش آتیه آنلاین از یورونیوز، والدین یک دختر ۱۳ ساله در ایالت کالیفرنیای آمریکا از شرکت گوگل شکایت کرده‌اند و مدعی شده‌اند فرزندشان با استفاده از قابلیت‌های هوش مصنوعی موتور جست‌وجوی این شرکت، برای خودکشی احتمالی و مراسم خاکسپاری خود برنامه‌ریزی کرده است.

این دادخواست روز دوشنبه ۲ نوامبر در دادگاهی در کالیفرنیا ثبت شده و بنا بر گزارش‌ها، نخستین پرونده‌ای است که گوگل را به سهل‌انگاری در زمینه قابلیت‌های جست‌وجوی مجهز به هوش مصنوعی متهم می‌کند؛ قابلیت‌هایی که از طریق کروم‌بوک‌های مورد استفاده در مدارس در دسترس دانش‌آموزان قرار دارند.

دختر این خانواده که در شکایت با نام مستعار اِما معرفی شده، به دلیل مسدود بودن جمینی گوگل و چت‌جی‌پی‌تی اوپن‌ای‌آی در مدرسه، امکان استفاده از این دو ابزار را نداشت، اما همچنان می‌توانست از موتور جست‌وجوی گوگل و قابلیت‌های هوش مصنوعی آن استفاده کند.

بر اساس ادعای خانواده، اِما پیش از این هیچ سابقه‌ای از بیماری روانی نداشت، اما طی چند ماه استفاده از این موتور جست‌وجو، با بحران شدید روان‌شناختی روبه‌رو شد.

در ۱۷ مارس، پس از آن‌که نرم‌افزار پایش مدرسه سندی با عنوان «خاکسپاری» را شناسایی کرد، والدین دختر در جریان قرار گرفتند. مادر اِما نیز بعدتر متوجه شد که دخترش نامه خداحافظی می‌نویسد و پدرش برای مداخله وارد عمل شد.

اندرو لیدل، وکیل خانواده، خواستار غیرفعال شدن قابلیت جست‌وجوی مجهز به هوش مصنوعی در مدارس تا زمان رفع نگرانی‌های ایمنی شد.

افزایش فشارهای حقوقی بر شرکت‌های فناوری

گوگل اعلام کرده است که حالت هوش مصنوعی این شرکت تدابیری برای جلوگیری از خودآسیب‌رسانی و دور زدن محدودیت‌های ایمنی دارد. خوزه کاستاندا، سخنگوی گوگل، نیز گفت این شرکت ادعاهای مطرح‌شده را بررسی می‌کند و موضوع را جدی می‌گیرد.

این پرونده در شرایطی مطرح شده که اوپن‌ای‌آی با چند شکایت درباره مرگ نوجوانان روبه‌رو است. همچنین گوگل و کاراکتر اِی‌آی در ژانویه با حل‌وفصل چند شکایت خانواده‌های نوجوانان موافقت کردند.

از سوی دیگر، گوگل، تیک‌تاک و متا نیز برای جلوگیری از اجرای قانونی در کالیفرنیا که استفاده کاربران زیر ۱۶ سال از قابلیت‌های اعتیادآور شبکه‌های اجتماعی را محدود می‌کند، اقدام حقوقی کرده‌اند. این قانون از اول ژانویه ۲۰۲۷ اجرایی خواهد شد.