Форум создателей искусственных интеллектов

Это с самого начала было понятно. Что некоторая имитация некоторых интеллектуальных функций неинтеллектуальными статистическими методами - это новое, иногда впечатляющее, но тупиковое бесперспективное направление в IT. А вот что для меня оказалось неожиданной и неприятной новинкой, так это та гора информационного хлама, которую, с позволения сказать, "создают" эти новомодные инструменты, что грозит перерасти в информационную экологическую катастрофу. Будет довольно иронично (но справедливо), если финальным практически ценным и юридически дозволенным результатом внедрения генеративных моделей станет сервис для выделения капель человеческого знания, обретённого на практическом осознанном опыте, из океана бредо-контента, сгенерированного нейросетями.

Когда человек учится у других людей, происходит постепенный рост количества и качества итогового знания. Потому что ученик сравнивает модели, полученные от других людей, со своим личным осознаваемым жизненным опытом и способен критически оценивать опыт прошлых поколений и добавлять свои изобретения. Когда же нейросеть "учится" у бреда, сгенерированного другой нейросетью, то качество итогового знания неуклонно понижается. Это логично, потому что нейросеть не имеет ни творческого начала, ни жизненного опыта и ничего не привносит в итоговый продукт. Можно сказать, что нейросеть настолько умна, насколько были умны люди, на текстовых последовательностях которых она изначально тренировалась. Только чуть тупее их.

Нейросети ведь придумали люди, и как механизм, изобретённый людьми, он имеет право на существование. Я только предположил, какое практически полезное применение он может иметь. А именно по трудноразличимым для человека маркерам отделять сгенерированный нейросетями контент с целью его элиминации из дальнейших информационных обменов. Грубо говоря, чтоб подтёр за собой.

Такой задачи на самом деле нет, Вам показалось. Задача всегда в другом: есть некоторый механизм, нужно определить работает ли он? Решается очень просто - запустить его. И если он работает как следует, то он работает. И это единственная истина, которая может быть. А если он не работает, то он ложный.