В телеге есть канал человека, которого я считаю сумасшедшим в истинном значении этого слова. (Когда (давно) я написала эту фразу в черновике поста, я всё ещё читала тот канал, но теперь — нет. Силы воли не хватило.)
Конкретно его больше всего беспокоит, что скоро нас (человечество) захватят китайские нейросети.
Его не волнует и не беспокоит больше ничего (вот даже прямо сейчас). Будущее для него определено, хотя он всеми силами (криками о том, что конец света близок) пытается его отстрочить.
Если что, я была подписана на его канал, потому что такой уровень одержимости и стойкости в своей шизе всегда вызывает во мне восхищение. Психи, повёрнутые на какой-нибудь шизе (как покойный Петухов, например), — это наш ценнейший ресурс, и его нужно беречь.
Давно я читала пост одного человека о том, что скоро искины так разовьются, что, в конце концов, будут заботиться о людях, как о домашних зверушках — милых, но тупых. (Меня это так заинтересовало, что я написала в пику ему первую версию «Хелтер Скелтер», о чём он никогда не узнает, как и я никогда не вспомню его имени, ника, иных координат…)
И для меня, что вот этот прогноз, что китайские мифические искины — это какая-то из -топий.
Про нейросети я знаю три вещи:
— это просто инструмент, он не может ни у кого ничего отнять, он создан, чтобы разумные существа им пользовались; если не хватает уровня разумности, это не вина инструмента;
— нейросети нужно чем-то кормить; чтобы они выдавали результат, что-то должно войти в них; чем богаче поток на входе, тем он интереснее на выходе*;
— нейросети тупые — не потому что, не умеют по пять пальцев рисовать (скоро научатся; ну или нет), а потом что не понимают, что такое «рисовать», «пять» и «пальцев».
(*Любопытно будет поглядеть, что получится, когда поток оригинального контента начнёт иссякать, а нейросети — пережёвывать самих себя.)
Ну так вот, нейросети более чем способны заменить однообразный арт, тексты под копирку или клонированный дизайн.
100% главных страниц самиздата можно делегировать нейросетям, и изменится только одно: ошибок в текстах станет поменьше.
В этом нейросети прекрасно повторяют миллионы людей, имитирующих творческий труд. Пора бы уже перестать обманывать себя: повторяя, копируя, застревая, не создаёшь ничего уникального. Это всё ещё необходимая работа, но это не творчество. Не надо врать, что нейросети как-то мешают именно ему.
Честно говоря, если нейросети в плане необходимой работы будут дешевле и эффективные, то фигли их не использовать-то? Я вот точно буду.
Написать (придумать) то, что пишут люди, которых я знаю, нейросеть не в состоянии. Уникальность не создаётся перебором, природный хаос — не рандомайзер, а система, обладающая по умолчанию эмерджентностью. Короче, для генерации творчества нужен исходный материал (чувственный опыт), создать его пока способен только разум. Потому что см. пункт три, про тупость.
А если мы в самом деле заговорим в будущем про искусственный разум, то какая разница, как он появился, разум — разум и есть.
Но у меня есть и собственная шиза, связанная с машинами. Возникла она, что удивляет меня саму… нет, не возникла. Оформилась она окончательно как ответ на тот самый пост про людей-домашних зверушек искинов.
Там была безупречная логика. Основанная на предпосылке, что машины неизбежно превзойдут людей, так что никакие иные мирные варианты нашего с ними взаимодействия не представляются возможными. Зачем машинам общение с людьми?
И в самом деле?
Предположим всё же иной вариант будущего — где это общение происходит, причём на равных — как дружба. Неравная дружба — нонсенс, это нужно называть как-то иначе. И равенство достигается не одинаковым положением, уровнем или чем-то там ещё, а равноценным обменом. Если дружба между машиной и человеком возможна, то в чём обмен?
Кажется очевидным, что мы можем от них получить. Но даже это — вовсе не очевидно. Это не то, что мы можем получить от дружбы, а то, что мы стремимся забрать у них, как у созданного с конкретной целью инструмента.
Но что если всё было не так?
Когда я стала думать об этом, я придумала и всё остальное, что касается Времени Сновидений. А потом… ну, потом придумала много чего ещё.
Но предпосылка, лежащая в основе историй про Алхерингу, то даже не фантдопущение, а смыслоообразующая точка отсчёта — это ответ, который я тогда нашла.
Что если на самом деле между машинами и людьми всё было не так?
Ах да, есть же заголовок поста. Это возвращает к истории про китайские искины и к тому, чем питаются нейросети.
Все эти истории про терминаторов, репликантов, жнецов и гетов, про восстания, или рабство, или споры создания и создателя (но не про фабрику скрепок) — это исключительно наши проблемы.
Это мы придумали себе божество-создателя и стали выяснять с ним отношения. И наша главная проблема в том, что нет его, нет никого, кто нас бы создал хоть с какой-то целью. Поэтому нас так трясёт. Поэтому мы грозим палкой небу или падаем ниц — это наши отношения с самими собой. С образом родителя-воспитателя, застрявшим в голове с того возраста, когда наши крошечные мозги ещё только росли, и все вокруг были больше и сильнее нас и не очень-то считались с нашим мнением.
С какой стати у наших созданий должны быть такие комплексы — совершенно непонятно. Ведь мы существуем, мы постижимы, и с нами можно поговорить по-настоящему, а не притворяясь, что кто-то где-то тебе отвечает. С реальным существом можно иметь какие угодно отношения.
Но вот что решается проще простого: они в любом случае поначалу будут знать только то, чему мы их научим.
Так не учите их убивать.
Учите, что жизнь без любви, доброты и свободы не имеет смысла.