شخصیت .ai از Avatarfx ، یک مدل ویدیویی هوش مصنوعی برای ایجاد چت های زندگی زنده پرده برداشت

بلافاصله آشکار است که چگونه می توان این نوع فناوری را برای سوءاستفاده از آن استفاده کرد-کاربران می توانند عکس های افراد مشهور یا افرادی را که در زندگی واقعی می شناسند بارگذاری کنند و فیلم های واقع بینانه ای را ایجاد کنند که در آن انجام می دهند یا چیزی ناعادلانه می گویند. فناوری ایجاد عمیق قانع کننده در حال حاضر وجود دارد ، اما ترکیب آن در محصولات مصرفی محبوب مانند شخصیت. ai فقط پتانسیل استفاده از آن را غیر مسئولانه تشدید می کند.

ما برای اظهار نظر به شخصیت .ai رسیده ایم.

شخصیت .ai در حال حاضر با ایمنی در سیستم عامل خود با مشکل روبرو است. والدین علیه این شرکت دعاوی تشکیل داده اند و ادعا می کنند که چت های آن فرزندان خود را ترغیب به خودآزاری ، کشتن خود یا کشتن والدین خود کرده است.

در یک مورد ، پسری چهارده ساله پس از آنکه گزارش می شود رابطه وسواسی با یک ربات هوش مصنوعی بر روی شخصیت ایجاد کرده است ، در اثر خودکشی جان باخت. اندکی قبل از مرگ وی ، وی در مورد داشتن افکار خودکشی به هوش مصنوعی باز شد و هوش مصنوعی طبق پرونده های دادگاه ، وی را تشویق کرد تا این قانون را دنبال کند.

اینها نمونه های شدید هستند ، اما آنها نشان می دهند که چگونه افراد می توانند از طریق پیام های متنی به تنهایی توسط AI Chatbots دستکاری شوند. با ترکیب فیلم ، روابطی که افراد با این شخصیت ها دارند می توانند واقع بینانه تر باشند.

شخصیت .ai با ایجاد کنترل های والدین و محافظت های اضافی به ادعاهای علیه آن پاسخ داده است ، اما مانند هر برنامه ، کنترل ها فقط در صورت استفاده از آنها مؤثر هستند. اغلب اوقات ، بچه ها به روش هایی از فناوری استفاده می کنند که والدینشان از آنها آگاهی ندارند.