به دلیل ترس از اینکه هوش مصنوعی احتمالاً به جامعه آسیب می‌رساند، اوپن ای آی به عنوان پیشتاز این زمینه مشغول انجام تحقیقات و بررسی‌هایی است. OpenAI با سازمان فعال در زمینه ایمنی کودکان مشارکت می‌کند تا برای خانواده‌ها و فرزندان آن‌ها دستورالعمل‌هایی را با استفاده از هوش مصنوعی ارائه دهد. این پروسه هنگامی انجام می‌شود که شرکت پشتیبان ChatGPT با این مشکل مواجه بوده است که هوش مصنوعی شاید به جامعه آسیب برساند.
همکاری با سازمان غیرانتفاعی Common Sense Media، این را ارزیابی می‌کند که آیا فناوری و رسانه‌ها برای کودکان مناسب هستند یا خیر! این خبر در روز دوشنبه در رویدادی در سانفرانسیسکو منتشر شد.
سام آلتمن، مدیر عامل OpenAI، به مخاطبین و حضار گرفته است که ” ما این را مورد بررسی قرار می‌دهیم که چگونه این ابزار را به صورت ایمن و گسترده در دسترس نوجوانان قرار دهیم و افرادی که از آن به عنوان ابزار آموزشی استفاده خواهند کرد”.
برنامه هوش مصنوعی به دلیل عدم محافظت از خردسالان با مشکل و واکنش شدیدی مواجه شده است؛ چون هیچ راهی برای این کار وجود ندارد که سن استفاده از کاربر AI وجود ندارد. ابزار هوش مصنوعی می‌تواند باعث ایجاد توهم شود؛ چون با استفاده از این ابزار تصاویر و ویدو‌های عجیب غریب ساخته می‌شوند.
با این وجود، آلتمن این باور که هوش مصنوعی برای کودکان ضرر دارد را رد کرد. در واقع، آلتمن این موضوع را رد کرد که ابزارهای هوش مصنوعی باید از مدارس دور نگه داشته شوند. وی خاطر نشان کرد که: انسان‌ها از ابزارهای مختلف استفاده می‌کنند و بهتر است که به آن‌ها نحوه استفاده از این ابزار‌ها را آموزش دهیم. اینکه به همه بگوییم که استفاده از این ابزار‌ها اشتباه است، کار درستی نیست.
سازمان غیر انتفاعی Common Sense Media در تلاش است که نوعی سیستم رتبه‌بندی هوش مصنوعی را برای مربیان، والدین و کودکان ایجاد کند. بعضی از اساتید دانشگاه در این زمینه نگران هستند که دانشجویان برای نوشتن مقالات خود از هوش مصنوعی استفاده کنند. اما هوش مصنوعی می‌تواند به کودکان کمک کند که مسائل شخصی خود را با استفاده از ChatGPT حل کنند. براساس نظرسنجی‌های صورت گرفته، ۲۹ درصد از نوجوانان و کودکان در ایالات متحده برای کمک به درمان مشکلات مربوط به سلامت روان و اضطراب از ChatGPT استفاده کرده‌اند. همچنین، طبق گزارش‌ها، ۱۶ درصد از کودکان و نوجوانان برای مشکلات خانوادگی و ۲۲ درصد آن‌ها برای مشکلاتی که با دوستان‌شان داشته‌اند از ChatGPT استفاده کردند.