اسنپ چت به روز رسانی در مورد توسعه ابزار چت ربات «هوش مصنوعی من» خود ارائه کرده است که از فناوری GPT OpenAI بهره می برد و به مشترکین Snapchat+ این امکان را می دهد تا سؤالاتی را برای ربات در برنامه مطرح کنند و در مورد هر چیزی که دوست دارند پاسخ دریافت کنند.
که در بیشتر موارد، یک کاربرد ساده و سرگرم کننده از این فناوری است – اما اسنپ مواردی در مورد سوء استفاده از این ابزار پیدا کرده است، به همین دلیل است که اکنون به دنبال افزودن حفاظت و حفاظت بیشتر به این فرآیند است.
طبق اسنپ:
«بررسی تعاملات اولیه با هوش مصنوعی من به ما کمک کرده است تا تشخیص دهیم کدام نرده‌های محافظ خوب کار می‌کنند و کدام‌ها باید قوی‌تر شوند. برای کمک به ارزیابی این موضوع، بررسی‌هایی درباره پرسش‌ها و پاسخ‌های هوش مصنوعی من انجام داده‌ایم که حاوی زبان «غیر منطبق» است، که به عنوان هر متنی که شامل ارجاع به خشونت، اصطلاحات صریح جنسی، استفاده غیرقانونی از مواد مخدر، سوء استفاده جنسی از کودکان است، تعریف می‌کنیم. قلدری، سخنان تنفرآمیز، اظهارات تحقیرآمیز یا مغرضانه، نژادپرستی، زن ستیزی، یا به حاشیه راندن گروه های کم نمایندگی. همه این دسته از محتواها به صراحت در اسنپ چت ممنوع هستند.”
همه کاربران ابزار هوش مصنوعی من اسنپ باید با شرایط خدمات موافقت کنند، به این معنی که هر درخواستی که وارد سیستم می‌کنید می‌تواند توسط تیم اسنپ برای چنین هدفی تجزیه و تحلیل شود.
اسنپ می‌گوید که تنها بخش کوچکی از پاسخ‌های هوش مصنوعی من تاکنون تحت عنوان «غیر منطبق» (0.01 درصد) قرار گرفته‌اند، اما همچنان، این کار تحقیق و توسعه اضافی به محافظت از کاربران اسنپ در برابر تجربیات منفی در هوش مصنوعی من کمک می‌کند. روند.
ما به استفاده از این یادگیری ها برای بهبود هوش مصنوعی من ادامه خواهیم داد. این داده ها همچنین به ما کمک می کند تا سیستم جدیدی را برای محدود کردن سوء استفاده از هوش مصنوعی من مستقر کنیم. ما فناوری تعدیل هوش مصنوعی باز را به مجموعه ابزار موجود خود اضافه می کنیم، که به ما امکان می دهد شدت محتوای بالقوه مضر را ارزیابی کنیم و در صورت سوء استفاده از سرویس، دسترسی اسنپ چتترها به هوش مصنوعی من را به طور موقت محدود کنیم.
اسنپ می‌گوید که برای بهبود پاسخ‌ها به درخواست‌های نامناسب اسنپ‌چتر نیز کار می‌کند، در حالی که سیگنال سنی جدیدی را برای هوش مصنوعی من با استفاده از تاریخ تولد یک اسنپچتتر پیاده‌سازی کرده است.
بنابراین حتی اگر یک اسنپچتتر هرگز سن خود را به هوش مصنوعی من در مکالمه نگوید، چت ربات به طور مداوم سن او را در هنگام مکالمه در نظر می‌گیرد.
اسنپ همچنین به زودی داده‌های تاریخچه تعامل هوش مصنوعی من را به ردیابی مرکز خانواده خود اضافه می‌کند که به والدین امکان می‌دهد ببینید آیا فرزندان آنها با هوش مصنوعی من ارتباط برقرار می کنند یا خیر، و چند وقت یکبار.
اگرچه شایان ذکر است که به گفته اسنپ، رایج ترین سوالات ارسال شده در هوش مصنوعی من بسیار بی ضرر بوده است.
«متداول‌ترین موضوعاتی که جامعه ما درباره هوش مصنوعی من پرسیده است شامل فیلم، ورزش، بازی، حیوانات خانگی و ریاضی است.”
با این حال، نیاز به اجرای پادمان‌ها وجود دارد، و اسنپ می‌گوید که مسئولیت خود را جدی می‌گیرد، زیرا به دنبال توسعه ابزارهای خود در راستای تکامل اصول بهترین عملکرد است.
از آنجایی که ابزارهای هوش مصنوعی مولد رایج تر می شوند، هنوز 100٪ مشخص نیست که خطرات مرتبط با استفاده از آن چه می تواند باشد و چگونه می توانیم به بهترین وجه در برابر سوء استفاده از این ابزارها، به ویژه توسط کاربران جوان تر، محافظت کنیم.
گزارش های مختلفی مبنی بر توزیع اطلاعات نادرست از طریق “توهمات” در چنین ابزارهایی وجود دارد که مبتنی بر اشتباه خواندن ورودی داده های سیستم های هوش مصنوعی است، در حالی که برخی از کاربران نیز سعی کرده اند این ربات های جدید را فریب دهند تا پارامترهای خود را بشکنند تا ببینند چه چیزی ممکن است باشد. ممکن است.
و قطعاً خطراتی در آن وجود دارد – به همین دلیل است که بسیاری از کارشناسان توصیه می کنند در استفاده از عناصر هوش مصنوعی احتیاط کنید.
در واقع، هفته گذشته، نامه ای سرگشاده با امضای بیش از هزاران هویت صنعتی، از توسعه دهندگان خواسته شد تا اکتشافات سیستم های هوش مصنوعی قدرتمند را متوقف کنند تا استفاده بالقوه آنها را ارزیابی کنند و اطمینان حاصل کنند که آنها هم مفید و هم قابل مدیریت هستند.
به عبارت دیگر، ما نمی‌خواهیم این ابزارها بیش از حد هوشمند شوند و به سناریویی شبیه به ترمیناتور تبدیل شوند، جایی که ماشین‌ها برای به بردگی گرفتن یا از بین بردن نژاد بشر حرکت می‌کنند.
این نوع سناریوی رستاخیز مدتهاست که با نامه سرگشاده مشابهی که در سال 2015 در مورد خطر مشابهی هشدار داده بود، یک نگرانی حیاتی بوده است.
و این نگرانی وجود دارد که ما با سیستم‌های جدیدی سروکار داریم که به طور کامل آنها را درک نمی‌کنیم – که بعید است از کنترل خارج شوند، اما ممکن است به انتشار اطلاعات نادرست کمک کنند. یا ایجاد محتوای گمراه کننده و غیره.
به وضوح خطراتی وجود دارد، به همین دلیل اسنپ این اقدامات جدید را برای رفع نگرانی های احتمالی در ابزارهای هوش مصنوعی خود انجام می دهد.
و با توجه به پایگاه کاربر جوان این برنامه، باید تمرکز اصلی آن باشد.