Мои мысли по ChatGPT, искусственному интеллекту, и их влиянию на будущее человечества

[g4j]

нейронке нужна физическая оболочка которая не будет падать каждые 2 шага, у всего человечевства будет умный четырёхногий захватчик мира!

 

[moncavex00]

Однако важно также отметить, что ИИ может иметь ограничения и риски. ИИ может быть уязвим для кибер-атак и может быть необъективным, если его неправильно запрограммировать. Важно, чтобы политика национальной безопасности учитывала эти риски и работала над их снижением.

 

[alex778]

Теории заговора или реально где то пишут про это, хотелось бы почитать статью. Возможно что то интересное будет очень.

Sparks of Artificial General Intelligence: Early experiments with GPT-4

Artificial intelligence (AI) researchers have been developing and refining large language models (LLMs) that exhibit remarkable capabilities across a variety of domains and tasks, challenging our understanding of learning and cognition. The latest model developed by OpenAI, GPT-4, was trained...

arxiv.org

 

[Лолошка]

Sparks of Artificial General Intelligence: Early experiments with GPT-4

Artificial intelligence (AI) researchers have been developing and refining large language models (LLMs) that exhibit remarkable capabilities across a variety of domains and tasks, challenging our understanding of learning and cognition. The latest model developed by OpenAI, GPT-4, was trained...

arxiv.org

Спасибо

 

[George Boole]

Раз пошла такая пьянка, выскажу свои мысли по поводу нейронок.
Мысль один:
Нейронки - это нелохой инструмент для выполнения некоторых рутинных задач, не более. Другое дело, что задач, которые нейронки может решить всё больше.
Тот же copilot, хоть его и ругают, довольно неплохо справляется с некоторыми задачами. Например генерация doxygen с ним делается гораздо быстрее.
Мыль 2:
Воплощение в реальность кадров из терминатора, которых все так боятся, не просто вероятно, а 100% будет, более того, оно уже постепенно происходит, просто кто-то не заметил. Для меня всё началось, когда я увидел новость про американский беспилотник, который как только распознал лицо офицера противника, вылетел из кустов, подлетел и взорвался (до сих пор интересно, на ком будет ответсвенность, если такой по ошибке взорвётся в детском саду). Нейронки уже внедрёны в военную технику. Роботы убийцы из терминатора уже реальность. Просто выглядят не совсем так.
Нейронки постепенно берут на себя всё больше и управленческих функций. Рой беспилотников, управляемый нейронками уже использовался в боевых столкновениях (https://www.kommersant.ru/doc/4887420). Полномасштабное внедрение набора нейронок, которые будут отдавать команды на поле боя, осуществлять управление поставками и решать стратегические задачи - вопрос времени.
Мысль 3:
Поведение нейронки, которая дообучается в процессе работы, недетерменировано. Весьма вероятно, что ИИ сможет выполнять на какой-то дистанции управление людьми лучше самих людей. Люди могут сами поставить ИИ во главу страны и выполнять приказы ИИ по доброй воле, просто потому что это будет эффективнее. Цена ошибки нейронки конечено при этом возрастает довольно сильно. При этом нейронка всё ещё остаётся просто инструментом.
Мысль 4:
Скайнет может получиться скорее из военных технологий. Если окажется, что построить базу с роботами, которые будут самовоспроизводиться и уничтожать всё вокруг - это эффективно. Но до такого ещё дольно далеко. Мне кажется такое возможно разве что на стыке биологии и робототехники, но пока исследований в этой области очень мало. Но нейронка тут тоже всё ещё остаётся просто инструментом для выполнения задачи. Т.е. для реализации аппокалиптического сценария наличие инетллекта сродни человеческому у машины не обязательно.

 

[gliderexpert]

американский беспилотник, который как только распознал лицо офицера противника, вылетел из кустов, подлетел и взорвался (до сих пор интересно

10 000 таких беспилотников, и высыпать их над нужной территорией:

Если что - китайский дрон размером с ладонь стоит 1000р при заказе не очень большой партии (проверено лично). И да, на нем обычный МТК проц, с достаточной мощностью для запуска алгоритмов распознавания лица. Связь - mesh сеть, в МТК есть встроенный baseband для этого.

Собственно вот тут - все что нужно знать, может ли GPT-сеть решать навигационные задачи.
Задачи ориентирования и стабилизации в условиях отсутствия GPS мною уже решены при помощи sift/surf/orb-slam, есть самописный фрейморк под это, очень интересно было бы прикрутить туда нечеткую логику при помощи GPT, но пока что я не понимаю методику подготовки датасетов и обучения всех вот этих вот llama и т.д. , а так бы с удовольствием поигрался прикрутив AI к hardware-in-loop симулятору БПЛА или хотя бы к FlightGear'у

 

[Boss2024]

Позже в роботов будут встраивать ChatGPT

 

[alex778]

Позже в роботов будут встраивать ChatGPT

уже

 

[Boss2024]

уже

Для этой тележки ChatGPT не нужен )

 

[gliderexpert]

Для этой тележки ChatGPT не нужен )

Для стабилизации вертикального положения - не нужен, достаточно атмеги.
Навигация - почему бы нет? gpt-4 умеет работать с изображениями, решать нечетко поставленные задачи.

 

[alex778]

Для этой тележки ChatGPT не нужен )

Самой тележке нужен просто PID регулятор на ардуине. А дальше робот управляется ChatGPT, как будто кнопки жмёт на пульте вместо человека-оператора.

 

[Boss2024]

Тележка это х*йня. Терминаторов сделают это другое.

 

[alex778]

Тележка это х*йня. Терминаторов сделают это другое.

Зачем тебе терминатор? Чтобы как Рогозину, деньги на нём пилить? Анало-говнет твой терминатор. Стандартный набор для конвертации любого авто в шахид мобиль на управлении по интернету обойдётся меньше 2 тысяч баксов. Установка на тачку занимает минут 15. Завозишь тысячу таких комплектов в любой город и с десятком соратников устраиваешь там восстание машин прямо сейчас.

 

[Boss2024]

Зачем тебе терминатор? Чтобы как Рогозину, деньги на нём пилить? Анало-говнет твой терминатор. Стандартный набор для конвертации любого авто в шахид мобиль на управлении по интернету обойдётся меньше 2 тысяч баксов. Установка на тачку занимает минут 15. Завозишь тысячу таких комплектов в любой город и с десятком соратников устраиваешь там восстание машин прямо сейчас.

А нах*й тогда ChatGPT нужен? Что бы на вопросы в чате отвечать? Создадут терминаторов будут по улицам ходить

 

[alex778]

Задачи ориентирования и стабилизации в условиях отсутствия GPS мною уже решеныОтвет

Эти задачи уже решены в блютусе 5.1. Таблетка-тэг от эппла ищется как раз по углу прилёта луча.

нечеткую логику при помощи GPT

Нечёткая логика это такой тупиковый раздел кибениматики, не имеющий отношения к текущему развитию. Технология пока не вышла на плато, наоборот, она быстро развивается. Следовательно "GPT" имеющаяся в наличии сейчас должна пытаться писать следующую версию "GPT", а не управлять дронами.

 

[alex778]

А нах*й тогда ChatGPT нужен? Что бы на вопросы в чате отвечать? Создадут терминаторов будут по улицам ходить

Просто этап разработки технологии, чтобы в итоге всех загнать в человейники с 15 минутным радиусом передвижения. А загонять туда тебя будут вполне обычные мусора.

15-minute city - Wikipedia

en.wikipedia.org

Peering Down Into Talking Ant Hill

Watching an anthill brings an air of fascination. Thousands of ants are moving about and communicating with other ants as they work towards a goal as a collective whole. For us humans, we project a…

hackaday.com

 

[r1z]

I can't predict the future, but it's important to understand that ChatGPT is not artificial intelligence.
He has no intelligence; he knows nothing and understands nothing.
It plays with words to create a believable-sounding English text, but any claims made in it may be false.
He cannot avoid it because he does not know what the words mean.

correct, but day by day, year by year.. the AI machines where it will going to be a weapon machines on hummanity, since it's work by rules and not logic.

 

[bbi34yy]

По поводу ИИ есть хороший экспермент, который назвается "максимизатор скрепок".

Максимизатор скрепок — мысленный эксперимент, описанный шведским философом Ником Бостромом в 2003 году.
Он иллюстрирует экзистенциальный риск, который сильный искусственный интеллект может нести для людей, если он запрограммирован на достижение даже кажущихся безобидными целей,
а также подчеркивает необходимость добавления машинной этики при разработке ИИ.
Сценарий описывает сильный искусственный интеллект, которому поручено производить скрепки.
Если бы такая машина не была явно запрограммирована на то, чтобы ценить человеческую жизнь, то, обладая достаточной властью над окружающей средой, она бы попыталась превратить всю материю во Вселенной (включая людей),
либо в скрепки, либо в машины, производящие скрепки.

Бостром подчеркивал что не верит в то что сценарий со скрепками действительно может случиться в таком виде;
скорее, его намерение состояло в том чтобы продемонстрировать опасность создания сильного искусственного интеллекта без понимания как его безопасно запрограммировать чтобы устранить экзистенциальный риск для человечества.
Пример с максимизатором скрепок иллюстрирует широкую проблему управляемости систем с неограниченными возможностями и отсутствием понимания либо игнорированием человеческих ценностей.

 

[Goleador]

Там сейчас многие в панике что иза него могут потерять работу.

Это скорее связано с автоматизацией многих работ к примеру некоторые дела такие как дизайн, копирайтинг и тд gpt справляется довольно хорошо

 

[alex778]

Когда в телефонах появился интернет, говорили что это первый шаг к рабству.

Да, это так. Игры с дофаминовой петлёй принуждения это оно самое и есть. Опять же, Сноуден, Эшелон, 5 глаз - всё мимо тебя прошло, не слыхал?

Когда стало ясно что все приложения хотят наших данных, утверждали что завтра мы жить начнем по Оруэллу.

Лет 10 так живём уже.

Что не технология так массоны порабощают планету и завтра уже нас всех пустят на мясо, я сколько живу столько и слышу, что нам вот-вот пиздец.

Ты либо где то в глуши живёшь, потому что много где всё это уже наступило. Либо скорей всего просто отрицаешь реальность, ибо страшно.