Еден од директорите во Microsoft го критикуваше Anthropic во врска со прашањето за свеста на вештачката интелигенција.
Директорот за вештачка интелигенција во компанијата Microsoft, Мустафа Сулејман, го критикуваше пристапот на компанијата Anthropic во однос на развојот на свеста кај вештачката интелигенција.
Тој предупреди дека начинот на кој се обучуваат моделите би можел во иднина да ја отежне нивната контрола, пренесува Ројтерс.
Неговата критика се однесува на вклучувањето идеи за свеста, благосостојбата и личниот идентитет во обуката на четботот Клод.
Според Сулејман, обучувањето на системите со јазик и обрасци на однесување кои се поврзуваат со човечката свест би можело да влијае врз начинот на кој вештачката интелигенција ја „доживува“ сопствената улога.
Тој смета дека таквиот пристап би можел да го отежне управувањето со идните системи кои би биле значително поспособни од денешните модели, вклучително и нивното исклучување кога тоа е потребно.
Сулејман оцени дека индустријата за вештачка интелигенција треба да биде насочена кон развој на системи кои им служат на луѓето, наместо кон нивно приближување до човечките особини.
Тој се заложи за отстранување на шпекулативните формулации за свеста од податоците и процесите за обука на системите за вештачка интелигенција.
Дебатата доаѓа во време на засилена дискусија во технолошката индустрија за безбедноста и брзината на развојот на напредните модели на вештачка интелигенција.
Anthropic и претходно предупредуваше на потенцијалните ризици од сè помоќните системи за вештачка интелигенција, додека раководителите на повеќе големи технолошки компании во последните денови зборуваа за потребата од дополнителни безбедносни механизми и повнимателен развој.
