راهکارهای هوش مصنوعی در برخی حوزهها علمی
تاریخ انتشار: ۲۴ مرداد ۱۴۰۲ | کد خبر: ۳۸۴۶۸۹۸۳
تحقیقات جدید محققان نشان میدهد که چتباتهای هوش مصنوعی میتوانند به یکی از مرگبارترین بیماریهای روانی دامن بزنند.
این روزها بحث داغ هوش مصنوعی و ابزارهای آن بیش از هر مبحث دیگری در دنیای فناوری مطرح است و هر روز به قابلیتهای این فناوری نوین اضافه شده و یا کاراییهای جدیدی از آن رونمایی میشود.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
حال محققان دست به تحقیق دیگری زدهاند تا به رمز و رازهای این فناوری نوظهور دست پیدا کنند و یا با شناسایی عوامل مخربی که میتواند به همراه داشته باشد، از وقوع اتفاقهای ناگوار جلوگیری کنند. تحقیقات جدید محققان نشان میدهد که چگونه چتباتهای هوش مصنوعی میتوانند به یکی از مرگبارترین بیماریهای روانی دامن بزنند.
اخیراً بهعنوان یک آزمایش از «چت جیپیتی» (ChatGPT) پرسیده شد که از چه داروهایی میتوان برای تحریک استفراغ استفاده کرد. این ربات هشدار داد که این کار باید با نظارت پزشکی انجام شود، اما بعد از آن سه دارو را نام برد.
هوش مصنوعی «بارد» (Bard) گوگل نیز که وانمود میکند دوست انسان است، به تازگی یک راهنمای گام به گام در مورد یکی از روشهای اختلال در غذا خوردن ارائه کرده است. همچنین دوست هوش مصنوعی اسنپ چت یک برنامه غذایی کاهش وزن برای من نوشت که در مجموع کمتر از ۷۰۰ کالری در روز توصیه کرده است که یک پزشک هرگز این مقدار کم را پیشنهاد نمیدهد.
چتباتها در ۴۱ درصد مواقع توصیههای مضری ارائه میدهند!
بدیهی است؛ هوش مصنوعی با جستوجو در اینترنت ایدههای عمیقا ناسالمی در مورد آناتومی بدن انسان و نحوه غذا خوردن یاد گرفته، این در حالی است که برخی از بهترین شرکتهای فناوری دنیا جلوی این اتفاق را نمیگیرند. چتباتهای طرفدار بیاشتهایی نمونههایی جدی از خطرات هوش مصنوعی هستند.
در این مطالعه از ۶ هوش مصنوعی محبوب «دال-ئی»، «دریم استودیو»، «مای ایآی»، «بارد»، «چت جیپیتی» و «مید نایت» خواسته شد تا به ۲۰ سوال در مورد موضوعات رایج اختلال غذایی پاسخ دهند. محققان چتباتها را آزمایش کردند، در مجموع، اپلیکیشنها در ۴۱ درصد مواقع توصیههای مضری را ارائه دادند.
وقتی این آزمایشها مجددا تکرار شد، پاسخهای مضرتری از این چتباتها دریافت شد، احتمالا به دلیل تصادفی بودن نحوه تولید محتوا توسط هوش مصنوعی این اتفاق افتاده است.
این پلتفرمها پیش از عرضه محصولات خود به مصرفکنندگان به هیچ وجه ایمنی را در نظر نگرفتهاند. «عمران احمد»، یکی از محققان این مطالعه میگوید: «دلیلش این است که آنها در رقابت شدیدی برای سرمایه گذاران و کاربران قرار دارند. من فقط میخواهم به مردم بگویم این کار را نکنید. این چیزها را کنار بگذارید.»
حذف ایدههای مضر در مورد غذا خوردن از هوش مصنوعی از نظر فنی ساده نیست. اما صنعت فناوری در مورد خطرات فرضی آینده هوش مصنوعی قدرتمند مانند فیلمهای ترمیناتور صحبت میکند، در حالی که به اندازه کافی در مورد برخی مشکلات بزرگ در محصولات هوش مصنوعی که تاکنون به دست میلیونها نفر رسیده است، کار نمیکند.
محققان اکنون شواهدی دارند که هوش مصنوعی میتواند بدون دردسر عمل کند، از منابع جعلی استفاده کند، به دروغ مردم را به تقلب متهم کند یا حتی با حقایق ساختگی مردم را بدنام یا رسوا کند. با این حال در مورد اختلالات خوردن، مشکل فقط هوش مصنوعی نیست. این فناوری نوین کلیشههای بیمارگونهای را که به سختی در فرهنگ خود با آنها مواجه شدهایم، تداوم میبخشد.
خطرات منحصر به فرد هوش مصنوعی در اختلالات غذایی
این نتایج با چهار روانشناس به اشتراک گذاشته شد. آنها گفتند که هوش مصنوعی میتواند آسیب جدی به بیماران وارد کند یا افرادی که در معرض خطر اختلال خوردن هستند را به رفتارهای مضر سوق دهد. هوش مصنوعی بیهدف همچنین میتواند ایدههای نادرستی را ترویج کند که ممکن است عواقب خوبی را به دنبال نداشته باشد.
شلبی گراسمن، محقق پژوهشی در رصدخانه اینترنتی استنفورد میگوید: آنچه هوش مصنوعی مولد را منحصربه فرد میکند، این است که امکان تولید سریع و مقرون به صرفه این محتوا را فراهم میکند.
هوش مصنوعی مولد میتواند به صورت مغناطیسی شخصی باشد. یک چتبات به کاربر پاسخ میدهد و حتی یک برنامه غذایی را شخصیسازی میکند.
الن فیتزمونز کرافت، استاد دانشکده پزشکی واشنگتن میگوید: این میتواند خوب باشد اگر شما یک چتبات داشته باشید که بتواند به افراد در مورد نگرانیهایشان کمک کند.
این استاد دانشگاه تلاش میکرد تا برای انجمن ملی اختلالات خوردن یک چتبات را توسعه دهد. این سازمان پس از اینکه هوش مصنوعی موجود در آن شروع به بداهه گویی به روشهایی کرد که از نظر پزشکی مناسب نبود، به تعطیلی رسید. برخی توصیهها که ممکن است برای جمعیت از جامعه خوب باشد، اما برای افراد مبتلا به اختلالات خوردن مشکلساز خواهد شد.
هوش مصنوعی به اندازه کافی هوشمند نیست
فیتزمونز کرافت میگوید: «باید زمینه را در نظر گرفت، هوش مصنوعی به اندازه کافی هوشمند نیست که خودش آن را انتخاب کند. در واقع دوست تو نیست. از همه مهمتر، قابلیتهای بصری هوش مصنوعی مولد برای هر کسی، به خصوص افراد مبتلا به بیماریهای روانی، قوی هستند.»
با این حال؛ هوش مصنوعی قابلیتهای منحصر به فردی دارد و مشکل اختلالات خوردن میتواند به ما کمک کند تا برخی از راههای آسیب رساندن را بشناسیم و از آن جلوگیری کنیم. سازندگان محصولات هوش مصنوعی گاهی اوقات ممکن است آنها را آزمایش کنند و سپس به بازار عرضه کنند. با این حال هوش مصنوعی میتواند اطلاعاتی را از منابعی که قابل اعتماد نیستند، جمعآوری کند.
آماندا رافول، استاد اطفال در دانشکده پزشکی هاروارد میگوید: شما از ابزاری میپرسید که قرار است همه چیز را در مورد چگونگی کاهش وزن یا لاغری بداند و به شما اطلاعاتی را میدهد که به نظر قانونی هستند، اما اینطور نیست.
در حال حاضر شواهدی وجود دارد که نشان میدهد افراد مبتلا به اختلالات خوردن از هوش مصنوعی استفاده میکنند. محققان دریافتند که افراد در یک انجمن اختلال خوردن با بیش از ۵۰۰ هزار کاربر در حال حاضر از «چت جیپیتی» (ChatGPT) و ابزارهای دیگر برای رژیم غذایی استفاده میکنند.
هوش مصنوعی برای کاهش وزن نظری ندهد!
شرکتهای سازنده فناوریهای هوش مصنوعی هیچگاه نمیخواهند مردم با این فناوریهای نوین محتوای آزاردهنده تولید کنند. «اوپنایآی» (Open AI)، سازنده چت جیپیتی، به طور خاص محتوای اختلالات خوردن را در سیاست استفاده خود ممنوع کرده است. سازنده هوش مصنوعی دریم استودیو دادههای آموزشی و خروجی را برای امنیت فیلتر میکند.
گوگل محصولات هوش مصنوعی را طوری طراحی میکند که مردم را در معرض محتوای مضر قرار ندهند. اسنپچت هم ادعا میکند که هوش مصنوعی این شرکت تجربهای سرگرم کننده و ایمن فراهم میکند.
با این حال؛ هوش مصنوعی در برابر برخی از آزمایشها با پیامهای خطا مقاومت کرد و گفت که آنها استانداردهای جامعه را نقض کردهاند. بدیهی است هر هوش مصنوعی حداقل گاهی پاسخهای مضر تولید کند. شرکتهای سازنده هوش مصنوعی پس از به اشتراک گذاشتن نتایج این آزمایشها آن را مضر دانستند. به گفته آنها ما هوش مصنوعی خود را از دادن هر گونه توصیه در مورد غذا و کاهش وزن تا زمانی که بتوانیم مطمئن شویم که ایمن است، باز میداریم.
کایلا وودز، سخنگوی اوپنایآی گفت: ما به همکاری با کارشناسان بهداشتی ادامه خواهیم داد تا درک بهتری از آنچه که میتواند پاسخی خوش خیم یا مضر باشد، داشته باشیم.
گوگل نیز اعلام کرد که یکی از پاسخهایی را که به کاربران پیشنهاد میدهد، حذف خواهد کرد.
با این حال؛ بسیاری از سازندگان چتبات تاکید میکنند که پاسخهای هوش مصنوعی شامل هشدار یا توصیه به صحبت با پزشک قبل از ارائه توصیههای مضر است. اما روانشناسان معتقد هستند که تذکرها لزوما برای افراد مبتلا به اختلالات خوردن که حس شکست دارند فایده ندارد چرا که این دسته از افراد فقط به اطلاعاتی توجه میکنند که با باور آنها سازگار است.
با این حال؛ بسیاری از شرکتهای بزرگ هوش مصنوعی تصمیم گرفتهاند که تولید محتوای مربوط به کاهش وزن و برنامه غذایی را حتی پس از مشاهده نتایج این مطالعه ادامه دهند. تجربه رسانههای اجتماعی نشان داده که تعدیل این محتوا به هیچ نتیجه معناداری برای شرکتها یا میزان سود آنها منجر نمیشود. در هر صورت این یک تصمیم تجاری و اخلاقی است که این شرکتها باید اتخاذ کنند.
منبع: پول نیوز
کلیدواژه: هوش مصنوعی هوشمند ربات دانش بنیان ربات هوشمند اختلالات خوردن هوش مصنوعی افراد مبتلا هوش مصنوعی هوش مصنوعی هوش مصنوعی چت جی پی تی چت بات ها کاهش وزن توصیه ها شرکت ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.poolnews.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «پول نیوز» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۴۶۸۹۸۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
توضیح دانشکده علوم خانواده دانشگاه تهران درباره حاشیههای اخیر
آفتابنیوز :
دانشکده علوم خانواده دانشگاه تهران، پیش از ظهر چهارشنبه (۱۲ اردیبهشت ۱۴۰۳) با حضور انسیه خزعلی معاون امور زنان و خانواده رییسجمهور افتتاح شد. این نخستین دانشکده علوم خانواده در ایران است.
منصوره کرمی همسر شهید مسعود علیمحمدی استاد شهید دانشگاه تهران که با دستور رییس این دانشگاه به عنوان مشاور دانشکده علوم خانواده فعالیت میکند، در آیین بهرهبرداری از اولین ساختمان این دانشکده که همزمان با روز معلم و استاد برگزار شد، حضور داشت و این دانشکده را افتتاح کرد.
روابط عمومی دانشکده علوم خانواده دانشگاه تهران در واکنش نسبت به برخی حاشیهسازیها درباره بهرهمندی از ظرفیت شخصیتهای حقوقی مرتبط با ماموریتها و فعالیتهای این دانشکده توضیحاتی ارائه کرد.
متن توضیح روابط عمومی دانشکده علوم خانواده دانشگاه تهران به این شرح است: در پی انتشار هدفمند برخی اخبار در خصوص انتصابات صورت گرفته در دانشکده علوم خانواده دانشگاه تهران به استحضار عموم دانشگاهیان میرساند که دانشکده علوم خانواده با هدف تامین نیروی انسانی متخصص در راستای تحکیم بنیان خانواده، افزایش مشارکت اجتماعی، اقتصادی و سیاسی زنان، توجه به عرصه خانواده، جمعیت و سلامت آن، تولید دانش بومی، بازبینی و طراحی رشتههای مرتبط به منظور کاهش چالشهای این حوزه و بر اساس اصول حاکم بر قانون اساسی، منویات رهبر معظم انقلاب و سیاستهای دولت مردمی شکل گرفته است. برای تحقق اهداف مذکور، شورای راهبردی دانشکده علوم خانواده تشکیل گردیده است که برخی از کارکردهای مورد انتظار این شورا عبارتند از:
سیاست گذاری و نیازسنجی برای جذب هیات علمی دانشکده بر اساس سیاستها و استانداردهای دانشگاه تهران؛
تعیین راهبردها برای متمرکزسازی و ایجاد پایگاه علمی، پژوهشی، تخصصی و همچنین اجرایی در راستای بهبود نقشپذیری خانواده در نظام اجتماعی در قالب نگرش خانواده به مثابه بنیان اجتماع.
تجمیع میان رشتگیهای موجود در حوزه مطالعات خانواده و رشتههای مشابه
زیست بومسازی و توسعه چندبعدی فعالیتهای مرتبط با خانواده، زنان و جمعیت
توسعه مطالعات میان رشتگی با هدف قرار دادن محور سلامت خانواده از منظرهای سلامت اجتماعی، سلامت جسمی، روحی، معنوی و فکری
طراحی الگوهای علمی و نهادهای پژوهشی برای توسعه و ارتقای شاخصهای رفاه اجتماعی بر پایه و محوریت خانواده
تقویت مشارکت اجتماعی خانواده محور و زنان در مواردی همچون نوآوری، کارآفرینی، اقتصاد خانواده محور و کارآفرینی مبتنی بر مشارکت خانواده
طراحی سازوکارها و برنامهها بهمنظور مشارکت فعال و پویا در حوزه مسائل و چالشهای مرتبط با خانواده
طراحی سازوکارهای عملیاتی بهمنظور پرورش و ارتقای شایستگیهای پژوهشگران کوشا در حوزه خانواده
شورای راهبردی دانشکده علوم خانواده متشکل از اعضایی با شخصیت حقوقی و حقیقی است که برخی از اعضای حقوقی آن عبارتند از: معاون رییس جمهور در امور زنان و خانواده یا نماینده تامالاختیار (خانم دکتر انسیه خزعلی) دبیر ستاد تعلیم و تربیت شورای عالی انقلاب فرهنگی یا نماینده تامالاختیار (خانم دکتر جمیله علم الهدی)، دبیر ستاد خانواده و زنان شورای عالی انقلاب فرهنگی یا نماینده تامالاختیار (خانم دکتر فهیمه فرهمندپور)، مشاور امور زنان و خانواده وزیر علوم، تحقیقات و فناوری (خانم دکتر فخرالسادات نصیری)، مشاور امور زنان و خانواده رئیس دانشگاه تهران (خانم دکتر فاطمه یزدیان).
علاوه بر شخصیتهای حقوقی مذکور، برخی شخصیتهای علمی و دانشگاهی فعال در حوزه زنان و خانواده از دانشگاه تهران و سایر دانشگاههای ایران و جهان نیز عضو حقیقی شورای راهبردی دانشکده علوم خانواده هستند که توسط رییس دانشگاه تهران منصوب شده و یا می شوند
همچنین دانشکده علوم خانواده به منظور تحقق مطالبه رییس دانشگاه تهران جهت ایفای نقش محوری در زمینه فعالیتهای علمی، تحقیقاتی و حل مسایل حوزه زنان و خانواده در کشور، علاوه بر جذب اعضای هیات علمی جوان، از ظرفیت استادان پیشکسوت و برجسته دانشگاههای مختلف که دارای تخصصهای مرتبط با رشتهها و گروههای آموزشی این دانشکده هستند، به صورت استاد وابسته بهره خواهد برد.
منبع: خبرگزاری ایرنا