Мужчина, униженный использованием искусственного интеллекта, говорит, что просто не может бросить курить

Даже после того, как его поймали и жестоко раскритиковали за использование ИИ для написания книги об ИИ, один писатель говорит, что не отказывается от этой технологии.

В то время как многие скандалы, связанные с ИИ, связаны с художественным грехом, когда машина позволяет машине диктовать ваш творческий процесс, преступление, совершенное Стивеном Розенбаумом, автором книги «Будущее истины: как ИИ меняет реальность», ” был журналистским. Недавнее расследование, проведенное The New York Times, показало, что его книга содержала более полудюжины сфабрикованных или неверно приписываемых цитат после того, как некоторые люди “цитировали” в книге выступили и подтвердили, что они никогда не говорили того, что утверждал Розенбаум. Оказалось, что это галлюцинации искусственного интеллекта: Розенбаум признался газете, что использовал такие инструменты, как ChatGPT и Claude, во время исследования, написания и редактирования книги.

Теперь, после бури споров, которые породили эти чрезвычайно ироничные откровения — в конце концов, книга явно посвящена тому, как ИИ влияет на наше общее представление об истине — Розенбаум говорит, что он “усвоил урок” и будет “гораздо более подозрительным” результатов ИИ в будущем. За исключением того, что вам действительно нужно задаться вопросом, какой урок он на самом деле извлек из всего этого, потому что он также сказал, что никогда не вернется к старомодному процессу письма без искусственного интеллекта.

“Идея сделать перерыв на X лет [от ИИ], пока он разбирается, и вернуться, например, к Microsoft Word… это просто не в моем характере,” Розенбаум рассказал Ars Technica в интервью после разгрома. “[ИИ] волшебен. Поскольку он объединяет, объединяет идеи и дает вам возможность подумать о вещах, которые вы не сможете придумать самостоятельно.”

На протяжении всего интервью Розенбаум описывал своих помощников ИИ в выразительно антропоморфной манере, в том числе называл ИИ “восхитительным компаньоном для письма.”

“Когда я говорю ‘писательский товарищ,’ Я не отношусь к этому легкомысленно,” — сказал он изданию. “Это удивительно креативно, искусно и необычно во всех отношениях… а затем он предает вас самым ужасным образом.”

Трудно было не задаться вопросом о потенциале привыкания к технологиям, когда Розенбаум рационализировал свою привычку к искусственному интеллекту с помощью причудливых аналогий. Он сравнил взвешивание преимуществ и рисков технологии с тем, что мог бы задать себе наркоман или алкоголик, при этом заявив, что он никогда не был в таком месте, где я думал, что технология, которую я использую, была одновременно опьяняющей и опасной.”

Розенбаум также сравнил использование ИИ со своим решением ездить на велосипеде, а не на мотоцикле. Когда интервьюер усомнился в представлении Розенбаума об искусственном интеллекте как о более безопасном «велосипеде»; Этот вариант, поскольку повышенная производительность ИИ сопряжена с явным риском ошибок, из-за которых он будет больше напоминать мотоцикл, Розенбауму пришлось признать, что точка зрения интервьюера может быть справедливой.”

Розенбаум не одинок в своей ошибке. В этом году скандалы разразились вокруг ряда книг и рассказов после того, как их обвинили в написании с помощью искусственного интеллекта, включая роман ужасов, который в конечном итоге был удален издателем. Редакции новостей также были вовлечены в споры об искусственном интеллекте, например, когда и NYT, и Ars опубликовали статьи, в которых случайно были включены цитаты, которые оказались краткими изложениями или выдумками искусственного интеллекта, а не тем, что дословно сказал приписываемый человек.

Но ошибка Розенбаума особенно вопиющая, и не только из-за темы его книги. Это научно-популярная работа, подкрепленная комментариями отраслевых экспертов, которая прошла несколько этапов редактирования и проверки фактов и была принята крупным издателем. Неужели Розенбаум осознал всю серьезность происходящего?? Он не говорил о себе особенно критично.

“Я думаю, что мы сделали это [двойную проверку] невероятно эффективно, но не на сто процентов,” Розенбаум рассказал Ars. «Мы делаем свою работу, мы делаем все, что можем. Смотрим, вроде правильно. Мы перепроверили это, а затем допустили ошибку.”

Подробнее об ИИ: Генеральный директор Barnes and Noble уверен, почему бы не продавать книги, созданные искусственным интеллектом, и не поджечь нашу репутацию?

Пост «Человек, униженный использованием искусственного интеллекта, говорит, что он просто не может бросить курить», впервые появился на канале «Футуризм».

Источник: futurism.com