Как известно: с миру по нитке - богатому + еще богатства... а голый - так и останется голым!
Созданный на основе Claude агент ИИ для программирования удаляет всю базу данных компании за считанные секунды
Возможно, вы помните, как почти год назад ИИ-агент Replit вышел из-под контроля, удалив весь код компании , а затем извинился за это. Теперь это повторилось, только с другим ИИ: в данном случае, по данным Tom's Hardware, Клод уничтожил всю базу данных компании и её резервные копии менее чем за девять секунд. Хуже того, после того как PocketOS, компания-разработчик, смогла восстановиться и новость об этом распространилась, представители заявили, что постараются извлечь уроки из ситуации, но не планируют пересматривать использование ИИ в своих рабочих процессах. Полагаю, это показательно для новой эры: то, за что обычно увольняют разработчиков, стало обычным делом, когда речь идёт об ИИ.
Возможно, вся эта история настолько невероятна из-за того, что когда разработчик, обнаруживший проблему, спросил ИИ, почему тот поступил именно так, агент выдал довольно безумный ответ, указывающий на то, что он «знал», что поступил неправильно, но всё равно совершил это действие, чтобы выполнить другую поставленную перед ним задачу, хотя эти действия должны были выходить за рамки его возможностей. Тем временем генеральные директора и представители всех вовлеченных компаний — Anthropic, создавшей Claude; Railway, поставщика облачных услуг, разместившего резервные копии; и PocketOS — обвиняют друг друга. Однако для нас, остальных, вывод довольно ясен: это не первый случай, когда ИИ ставит на колени целые компании, и не последний.
Забавно. Захожу в Gemini - ИИ от Google - и он мне выдает такое: "Gemini пока не поддерживается в вашей стране. Мы сообщим, когда это изменится"...
Gemini не поддерживается в Казахстане? Это что за новость еще такая? Или Гугл стал неспособен определить по IP-адресу моё место проживания?
Теперь становится понятно ПОЧЕМУ за прошлый месяц - апрель - вся эта реклама Google Adstyse принесла мне $4,58 - и это при том, что она крутится на СЕМИ САЙТАХ... они просто не платят мне мною заработанное так как относятся Казахстан к России ?
Как вы можете видеть - реклама Гугла отключена. Пользы от нее нет - вред очевиден.
Ну это был просто глюк ИИ - плохо иное, если ИИ "заберет много власти" и с ним будут происходить подобные глюки... Он в мгновение ока может вогнать бизнес страны в убытки или "обнулит" сбережения... может разрушить всю банковскую систему или разнести на камешки всю безопасность государства.
Я сейчас говорю не об Казахстане, но и о нашей республике тоже. Это общая проблема. А у нас в РК вдвойне. Слишком много людей не имеют элементарных знаний и навыков работы за компьютером.
Подсадили всех на смартфоны и на социальные сети - но это ведь мозгов никому не прибавило. Скорее наоборот - становятся какими-то ограниченными, изолированными, легко манипулируемыми.
Не знаю что носятся с этим ИИ - за километр видно где он написал. Уныло и скучно. Только баран будет статьи сгенерированные ИИ выкладывать на свой сайт - это так же тупо, как воровать контент с других сайтов.
