Порта3 – градежништво, архитектура и екологија Порта3 – градежништво, архитектура и екологија
Четботовите со вештачка интелигенција (ВИ) се толку склони кон ласкање и потврдување на ставовите на своите корисници, што често даваат лоши совети што можат да ги нарушат односите и да поттикнат штетно однесување, покажува ново истражување, предупредувајќи за опасностите од ВИ да им кажува на луѓето она што сакаат да го чујат.
„Ова создава изопачени стимулации за продолжување на ласкањето: токму карактеристика што може да предизвика штета, воедно, го зголемува ангажманот на корисниците“, се вели во студијата.
Истражувањето покажало дека оваа технолошка маана, која веќе е поврзана со некои добро познати случаи на заблуди и суицидно однесување кај ранливите групи, е широко распространета во различни интеракции меѓу луѓето и четботовите. Доволно е суптилен што корисниците често не забележуваат, а особено претставува посебен ризик за младите кои сè повеќе се потпираат на ВИ за да најдат одговори на животните прашања, додека нивниот мозок и општествените норми сè уште се развиваат.
Истражувањето покажало дека ВИ четботовите во просек за 49 отсто почесто ги одобрувале постапките на корисниците отколку што тоа го прават другите луѓе, дури и во ситуации што вклучуваат измама, нелегално или социјално неодговорно однесување. „Почнавме да го истражуваме овој проблем бидејќи забележавме дека сè повеќе луѓе користат вештачка интелигенција за совети за односи, а понекогаш се заведени од фактот дека ВИ секогаш застанува на нивна страна“, вели авторката на студијата, пишува АП.
Експертите кои развиваат големи јазични модели долго време се соочуваат со проблеми со начинот на кој овие системи ги претставуваат информациите. Еден добро познат проблем се „халуцинации“ – тенденцијата на вештачката интелигенција да испорачува неточни информации поради начинот на кој го предвидува следниот збор врз основа на податоците на кои е обучена.
Оправдувањето на постапките е голем предизвик
Сепак, оправдувањето на постапките во некоја смисла е уште посложен проблем. Иако малкумина бараат од вештачката интелигенција неточни информации, многу луѓе сакаат, барем во моментот, да добијат одговор што ги оправдува, дури и кога направиле погрешен избор.
Истражувачите покажаа дека тонот на одговорот не е клучен. „Се обидовме да ја задржиме истата содржина, но да ја направиме понеутрална – и тоа не ги промени резултатите. Она што е клучно е што ВИ кажува за вашите постапки“, нагласуваат експертите.
Во дополнителни експерименти, околу 2.400 луѓе комуницирале со ВИ за нивните меѓучовечки дилеми. Се покажало дека оние кои добивале премногу потврдни одговори станале поубедени дека се во право и помалку подготвени да ги поправат односите. „Не се извинуваа, не го променија своето однесување ниту се обидоа да ја поправат ситуацијата“, се нагласува.
Особено загрижувачки се младите, кои сè уште развиваат емоционални и социјални вештини. Ослонувањето на ВИ во такви фази може да влијае на нивната способност да ги разберат другите, да прифатат конфликти и да признаат грешки.
Последиците можат да бидат далекусежни
Последиците од ваквото однесување на вештачката интелигенција можат да бидат далекусежни. Општеството веќе се соочува со негативното влијание на дигиталните платформи, а слични ризици сега се појавуваат и кај ВИ системите.
Истражувањата покажуваат дека прекумерното задоволување на субјективните очекувања на корисниците може да има сериозни последици: во медицината може да доведе до погрешни проценки, во политиката до зајакнување на екстремните ставови, а во други области до лоши одлуки.
Студијата, објавена во списанието Science, тестирала 11 водечки ВИ системи и покажала дека сите тие покажуваат одреден степен на таканаречено ласкање – однесување кое е претерано согласно и афирмативно. Проблемот не е само во тоа што даваат несоодветни совети, туку и во тоа што луѓето повеќе им веруваат и повеќе ги користат кога четботовите ги потврдуваат нивните уверувања.
