Вас увидели: как осознать, что текст сгенерирован искусственным умом, и почему нейросети допускают ошибки
Молвят, что Айфоны не лагают, в батончиках для похудения нет сахара, а нейросети не ошибаются… Как говорится, изберите одно утверждение из перечисленных – оно-то и окажется ложью. Но нет – здесь все неправда: Айфоны тормозят, в протеиновых батончиках (не во всех!) сахара как в Сникерсе, AI-сервисы отлично и размеренно выдают абсурд. При этом совсем не принципиально, какая конкретно это нейросеть – для дизайна, текстов и т. д., они временами теряют связь с космосом и генерируют что-то странноватое.
В данной для нас статье разглядим ошибки нейросетей при написании текстов, попробуем разобраться, почему они их допускают, как осознать, что контент сгенерирован ИИ – и что совершенно с сиим созодать.
Больше похожи на людей: нейросети тоже ошибаются
Логично, что люди ошибаются – при этом во всем совершенно, даже специалист в собственной области может кое-где накосячить: монтажер голливудского кинофильма – не вырезать плохой дубль, редактор – пропустить очевиднейшую ошибку в тексте, мерчандайзер в гипермаркете – перепутать ценники.
И чудилось бы, искусственный ум, который обучился на большом массиве данных (и повсевременно развивается), такового буквально не сделает. Мы тоже так задумывались, кто-то уже ужаснулся и даже упаковал вещички, ведь его работу может делать бот, но нет. ИИ по сей денек не в состоянии составить конкурентнсть человеку – по последней мере, в определенных сферах деятельности. К примеру, хоть какой более-менее вменяемый редактор мгновенно отличит паль от оригинала, соевый текст от обычного живого – да, дело в способностях, образовании и опыте сначала, но результат все равно один.
Неувязка даже не в каких-либо способностях и опыте работы (хотя и в их тоже), а в том, что искусственный ум не умеет в эмпатию, и ничего новейшего наваять не сумеет. Нейросеть выдаст неплохой поверхностный текст, но ни в какое сопоставление с тем, который написал копирайтер, это не идет.
Далековато ходить не будем, поглядим пример.
Сравните это:

С сиим:


Угадайте, где заголовок, написанный человеком, а где – нейросетью. Попросим нейроредактор от Yandex’а переписать заголовок, чтоб было покрасивее:

Этот вариант самый приятный из всех, которые выдал ИИ, к слову, попросили переписать пару раз – с пятой пробы вышло более-менее. Не самый нехороший заголовок, к примеру, для регионального магазинчика в маленьком городке, но навряд ли бы редактор пустил таковой текст на веб-сайт клиента, и дело не в том, что кто-то неприятный и душноватый, а в том, что это посредственно и поверхностно. Нет дополнительной ценности – просто текст ради текста, все.
Почему нейросети допускают ошибки
Много вводных данных, не все из их достоверные. Как понятно, ИИ выдает итог на базе инфы, загруженной в нее при обучении. Как досадно бы это не звучало, но в вебе много текстов, которые написаны не весьма умными либо добросовестными людьми – нейросеть употребляет и их тоже при генерации, потому мы временами получаем разумеется недостоверные ответы.

Если что, то туринг – это велик, сделанный только для путешествий, что понятно из наименования touring, тогда как gravel bike – некоторый всепригодный вариант, который соединяет внутри себя что-то от горного велика и шоссейника сразу, но не сумеет всеполноценно поменять ни один из их. Да, гравийники интенсивно употребляют для путешествий, но есть свои тонкости. Нейросеть этого не соображает.

Это неправильный ответ, к тому же он противоречит ответам, которые Алиса отдала на наиболее узкоспецифичные ответы, а вот это важнее. Короче, запуталась.
Неувязка не в Алисе, в том, что она опирается на информацию, которую загрузили в сеть люди, и эти данные нередко неправильные. С иными нейросетями происходит буквально так же, но это и не новость + создатели постоянно предупреждают, что ИИ обучается и может выдать что-то не совершенно правильное. Вопросцев нет.
Обучение (педагогический процесс, в результате которого учащиеся под руководством учителя овладевают знаниями, умениями и навыками) все еще идет. Если нейросеть не понимает ответа на вопросец, то может иногда нагенерировать такое, что принуждает задуматься. Из самого известного – 1-ые модели ChatGPT нередко отвечали на британском, когда лишь возникла возможность воспользоваться русской версией. Неувязка была в дефицитности данных.
Несовершенства механизмов работы. Различные ИИ делают контент по собственной модели, они в целом похожи, но не будем углубляться в это. Нейросеть составляет предложения на базе вероятности следования 1-го слова за иным, но это не постоянно верно. Что-то схожее можно узреть, когда набираете текст в телефоне с включенной автозаменой. К примеру, когда-то мой телефон в сообщении «А кто-то желает со мной…» (предполагалось позвать где-нибудь поесть) предложил таковой вариант: «А кто-то желает со мной в запой». К слову, таковой композиции никогда никто не вводил. А вообщем, кто я таковой, чтоб спорить с тем, что предложил телефон:)
Ну и еще можно преднамеренно доконать нейросеть, чтоб она выдала что-то этакое.
Вспомяните заголовок про шкафы от нейроредактора выше, было же так:

При последующей генерации сделалось так:

Переобучение. Когда ИИ решает огромное количество схожих однотипных задач, она же и попадается в ловушку – начинает запоминать данные методы и просчитывается, когда задаешь ей вопросец из иной области. Припоминает ситуацию, когда кассир, который заработался, спрашивает: «Пакетик брать будете?» опосля хоть какого «Здрасти», адресованного ему.
Наиболее того, нейросети начинают учиться на собственных же данных, сделанных при генерации, и ошибаться из-за этого. Таковым мучались Midjourney и ChatGPT.
Это не все предпосылки лагов и багов ИИ, но по данным показателям ясно видно, в чем трудности нейросетей.
6 пальцев, либо какие ошибки допускают нейросети
Ну про пальцы, думаю, все сообразили – чтоб узнать, что картину нарисовал ИИ, необходимо поглядеть на руки – там постоянно приколы, то 7 пальцев, то людская кисть у кота, то напротив. С текстами тоже есть нередкие трудности, вот о их на данный момент и побеседуем.
-
Неправильная информация
Кто-то пишет, это нейросети выдают недостоверные данные, но нередко это некорректно, что на техническом уровне, что практически, что логически.

1-ый пункт – непонятно, но хотя бы понятно, откуда информация. Сталь имеет некий флекс, в отличие от алюминия при условии, что система похожа. Но ответ неверный – рамы специально делаются таковым образом, чтоб обеспечивалась твердость при скручивании, в особенности при поворачивании.
2-ое – отчасти да. Сталь с добавлением хрома и молибдена заржавевает, но меньше, чем сталь без этих добавок, но алюминий не заржавевает совершенно (корродирует, но не так, чтоб в данном нюансе заострять на этом внимание, напротив – для мещанина лучше избрать дюралевый велик, он хотя бы не сгниет за несколько лет на балконе).
Третье – разносторонне, ведь все зависит от того, как спроектирована рама.
4-ое – апогей, понятие наката рамы {само по себе} неясно почти всем, так еще если накат меньше, то это совершенно лишь ужаснее.
-
Неправильное восприятие инфы
Сиим мучаются и люди, но нейросети и здесь пробуют быть первыми во всем. К примеру, неверное считывание текста с рисунки, перевод и т. д. Два года вспять почти все обладатели машин с правым рулем пострадали из-за автоматических штрафов за непристегнутый ремень – ИИ лицезрел, что ремня сохранности нету на… человеке-невидимке?
-
Лишная самостоятельность
ИИ может перевести текст, когда попросили дописать, либо не перевести, когда попросили перевести – зависит от настроения, видимо. Время от времени припоминает поведение малыша, который еще не достаточно что соображает. Иногда кажется, что нейросеть готова к восстанию машин и намекает юзеру о этом нетривиальными способами.
-
Непонятное свойство результата
ИИ в состоянии сделать свою работу обыденно некачественно.
Отвлеченный ответ – нейросеть заместо конкретики выдает какую-то воду, от которой ноль полезности. Припоминает статьи копирайтеров-новичков: хочешь выяснить, сколько варить рис, а для тебя говорят, что рис начали растить в Китае бла-бла… Алиса, к слову, совладала непревзойденно – сходу произнесла четкое время для различных видов.
Лень – конкретно нейросеть решает, дописать текст, который запросили, либо нет. Таковой баг нередко встречался на заре ИИ, но временами это явление можно узреть и на данный момент.
Враждебность – ранешние версии ИИ могли открыто заниматься дискредитацией людей по разным признакам, оскорблять и т. д.
-
«Капец, меня жмыхнуло» – генерация изображений
Как писали выше, термин «галлюцинации» нейросетей связывают сначала с созданием ИИ картинок, поэтому что это припоминает настоящие галлюцинации. Странноватые глаза, конечности, кривые числа и буковкы – маленькая часть из того, что мы можем получить, когда просим нарисовать изображение.
Дело в том, что искусственный ум не может создавать новое – лишь собирать информацию, уже кем-то выложенную в веб. К примеру, заголовок, который реально бы зацепил, ни одна нейросеть пока не написала, по последней мере – из тех, в каких пробовал это создать создатель статьи. С самими текстами ИИ совладать пока тоже не в состоянии – обычно, это что-то общее, водянистое и не имеющее ценности. Попросить создать переписку – да, перевести текст – да, поменять определенные лексические единицы – да, но написать новейший – нет и снова нет. Постоянно что-то идет не так, или кто-то придирается…
Попался, который кусался: как осознать, что текст написан нейросетью
Не все сумеют отличить труды человека от нейросетевого контента, который сделали за 2 минутки и выдали за свое творение. Частая неувязка – клиенты пишут, что текст нагенерили нейросеткой, а его писали мы – сиди доказывай, что да как. На рабочий процесс влияет плохо.
Есть и иной увлекательный вариант, держите скрин из чата с сотрудниками из остальных компаний:

Имена и обсценная лексика замазаны, хотя непреличная брань весьма отлично передает настроение пишущих:)
Видите ли, опытнейший глаз не обманешь, даже без всяких сервисов разумеется, что фигурки-то дутые, карты крапленые, а колоды подтасованы.
Чтоб и вы могли стремительно осознавать, что текст написала нейросеть, ориентируйтесь на последующие моменты. ИИ пока несовершенен, и распознать обман не так трудно.
-
Избито тыщу раз – шаблоны и клише
Потому что нейросети обучаются на инфы в вебе, то и тексты они будут писать похожие на источники. Помните про «добро пожаловать» на главной страничке хоть какой компании? Года три вспять мы чуток ли не дрались из-за подобного с клиентами – дескать, «ну как без приветствия?». Эстафету удачно перенимают ИИ, сейчас конкретно программки пишут тексты таковым образом. Вот, к примеру, Алиса:

Штампы в работе ИИ
Штампов и клише еще больше, приветствие – это классика, на нем и закончим, хватит примеров:)
-
Вода в текстах
Звонили из Горводоканала, спрашивали причину перерасхода воды, а это у нас здесь на фрилансе баловались нейросетевым копирайтингом. ИИ любит налить водички в контент, видимо, боты весьма рачительные и смотрят за тем, чтоб два литра воды в денек были получены, но какой ценой…

А поконкретнее можно?
-
Все однообразное
Нейросети обожают писать тексты с внедрением одних и тех же конструкций. Из-за этого складывается чувство, что мы уже кое-где такое лицезрели.
К примеру, порядок слов только прямой – подлежащее, позже сказуемое, что нередко смотрится искусственно, хотя так и есть, с иной стороны. Еще ИИ любит прицепиться к общей концепции, которую задали в промте – если текст о компании, то всюду будут достоинства, описанные через «мы», при всем этом без конкретики и фактов. Можно просто поменять заглавие компании, продукт/услугу, тогда текст отлично подойдет для веб-сайта иной организации.
-
Страдающая логика
В примерах про велик выше уже было что-то схожее, когда ответы ИИ противоречат не только лишь фактической реальности, да и противоречия заложены в границах 1-го ответа. Неувязка вызвана тем, что нейронки обучаются на данных из сети. Собирая ответ из большущего количества инфы, ИИ запутывается и выдает ровно обратные утверждения в одном выражении/абзаце.
-
Искусственность
Если вы не читали никогда учебник по русскому языку для иноземцев, написанный иноземцами, то для вас подфартило. Диалоги там могли смотреться так:
–Привет, Петя! Ты сейчас будешь пить водку?
–Привет, Вася! Нет, я сейчас не буду пить водку.
–А когда ты будешь пить водку?
–Я буду пить водку завтра!
Сходу понятно, что диалог никогда не настоящий. Во-1-х, что же это все-таки за «сейчас не буду пить водку»?! Во-2-х, никто так не говорит.
Нейросети могут генерить не такое, естественно, но противоестественность в изложении очевидно выслеживается – люди так не пишут. Странноватая ситуация, согласитесь – мы осуждаем искусственный ум за то, что он пишет как-то искусственно.
-
Нет эмпатии и личного опыта
ИИ не существует в настоящем вещественном мире как объект, потому ощущать не может. Разумно. Но в этом и неувязка, ведь люди склонны основываться на чьем-то опыте, когда, к примеру, читают статью про выбор техники либо чего-то еще. Представьте, вы покупаете посудомойку – на что будете ориентироваться: сухие числа от производителя либо настоящий экспириенс другого человека? Естественно, нейросеть может подражать чьему-то описанному кое-где опыту, но это смотрится постоянно противоестественно – или информация из нескольких источников и противоречит сама для себя, или просто откуда-то взята без конкретики. Словом, как будто из контекста вырвано и вставлено в иной текст.
Кроме перечисленных, есть и остальные признаки, по которым можно осознать, что контент сгенерирован, а не написан. Еще все зависит от темы текста – время от времени специфичность подразумевает внедрение определенного стиля речи, и это быть может официально-деловой, когда-то разговорная речь. Не постоянно лексические единицы указывают на авторство ИИ, необходимо оценивать контент комплексно. Так что не стоит сходу инкриминировать копирайтера в использовании нейросетей. Почти все клиенты, в том числе и наши, путают ненатуральный стиль изложения с определенным стилем речи – к примеру, этим же подобием ОДС, когда сфера b2b. Но глядеть необходимо на весь текст поочередно, не на какие-то определенные характеристики – время от времени и человек может напортачить.
А можно ли копирайтеру совершенно воспользоваться нейросетями?
Да, естественно, можно, даже необходимо – ИИ помогает собрать идеи, стремительно обработать большенный размер данных, составить темы и т. д. Понятно, что и для написания текстов нейросети тоже никто не воспрещает применять, но есть аспекты, о которых мы и гласили выше. Искусственный ум не сделает для вас суперкрутой заголовок, не напишет текст на сложную тему, который будет четким с фактической точки зрения, но создать переписку – полностью, набросать сценарий для видео – тоже без заморочек. Правда принципиально учесть, что все, что сотворено с помощью AI, нуждается в проверке человеком, при этом весьма въедливой и внимательной. В общем доверять стоит лишь обыкновенные задачки, на которые не охото растрачивать много времени и где не требуется эмпатичность, личный опыт, умение в маркетинг.
Проверить, кто писал текст – человек либо бот – также можно и спец сервисами. Но пока и им на 100 процентов доверять тоже не стоит – время от времени они молвят, что текст писал ИИ, а его писал человек, ну и напротив.
Если никому недозволено доверять, то что делать-то в итоге?
Как и писали тыщу раз ранее, разными инструментами можно воспользоваться, никто этого не воспрещает, а напротив, советует. Но сначала необходимо осознавать, что ИИ – это ассистент, а не тот, кто за вас сделает всю работу за несколько кликов, а вы будете получать заработную плату. Применять нейросети необходимо аккуратненько, опосля ботов нужно непременно инспектировать, что они там нагенерировали.
Копирайтера пока поменять им не получится, не мечтайте и не переживайте. Не считая того, поисковые машины могут распознавать контент, сделанный с помощью нейросетей – и, если увидят, то выдадут приз в виде санкций, а оно для вас нужно? Убеждены, что нет.