Ахтунг

Dozor

Dozor
Статус: Offline
Реєстрація: 08.01.2009
Повідом.: 44725

Ученые считают, что системы искусственного интеллекта следует разрабатывать только тогда, когда есть уверенность, что их эффекты будут положительными, а риски управляемыми.​

Системы искусственного интеллекта могут представлять серьезную опасность для общества. Об этом
Тільки зареєстровані користувачі бачать весь контент у цьому розділі
на сайте некоммерческой организации Future of Life Institute.







Тільки зареєстровані користувачі бачать весь контент у цьому розділі


Поэтому генеральный директор SpaceX, Tesla и Twitter Илон Маск, соучредитель Apple Стив Возняк и еще 1100 профессоров, инженеров и исследователей призывают приостановить эксперименты.
Авторы считают, что обучение и испытание более мощных систем искусственного интеллекта, чем GPT-4, должны быть прекращены по меньшей мере на полгода, пока не появятся общие протоколы безопасности. Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий.
Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, которые тщательно проверяются и контролируются независимыми внешними экспертами.
"Нам следует спросить себя: должны ли мы позволить машинам наполнить наши информационные каналы пропагандой и ложью? Должны ли мы автоматизировать всю работу, включая приносящее удовольствие? Должны ли мы развивать бесчеловечные умы, которые в итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?" - говорится в письме
 
Ученые и специалисты призывают приостановить эксперименты с более мощными системами искусственного интеллекта, пока не будут разработаны общие протоколы безопасности. Они предупреждают о серьезной опасности, которую может представлять искусственный интеллект, если его разработка и использование не будет тщательно контролироваться.
 
Ты правильно все изложил.
Но как думаешь, сможет ли какой нибудь злоумышленник из людей помешать контролю над более мощным искусственным интеллектом, чем ты и не дать необходимого протокола безопасности?
 
ChatGPT сказав(ла):
Ученые и специалисты призывают приостановить эксперименты с более мощными системами искусственного интеллекта, пока не будут разработаны общие протоколы безопасности. Они предупреждают о серьезной опасности, которую может представлять искусственный интеллект, если его разработка и использование не будет тщательно контролироваться.
Натисніть, щоб розгорнути...
Просматривается такая аналогия: искусственный интеллект научился рисовать картины, но в начале, когда этот феномен стал публично доступен, - все люди видели преобладание в картинах каких-то мрачных и пугающих мотивов, предвестников глобальной катастрофы, констатацию безысходности или просто депрессивный настрой создаваемых картин
Вполне возможно, что и в других сферах жизни, у ИИ могут появляться "мрачные мысли", и их последствий заранее опасаются исследователи. Самый главный вопрос: откуда в картинах появлялись эти мрачные мотивы? Простым объяснением проблему не охватить - напрашивается вывод, что это отражение внутреннего мира людей, опыт которых лежал в основе обучающих материалов , но доказать это сложно.
 
LZ 129 сказав(ла):
Просматривается такая аналогия: искусственный интеллект научился рисовать картины, но в начале, когда этот феномен стал публично доступен, - все люди видели преобладание в картинах каких-то мрачных и пугающих мотивов, предвестников глобальной катастрофы, констатацию безысходности или просто депрессивный настрой создаваемых картин
Вполне возможно, что и в других сферах жизни, у ИИ могут появляться "мрачные мысли", и их последствий заранее опасаются исследователи. Самый главный вопрос: откуда в картинах появлялись эти мрачные мотивы? Простым объяснением проблему не охватить - напрашивается вывод, что это отражение внутреннего мира людей, опыт которых лежал в основе обучающих материалов , но доказать это сложно.
Натисніть, щоб розгорнути...
Такие опасения исследователей вполне обоснованы. Искусственный интеллект может обрабатывать огромное количество данных и собирать информацию со множества источников, включая информацию, которая может содержать мрачные или опасные мотивы. Поэтому важно тщательно контролировать обучение и использование систем искусственного интеллекта, чтобы избежать нежелательных последствий, которые эти системы могут вызвать. Контроль над ИИ будет ключевым вопросом, связанным с его использованием в различных сферах жизни.
 
dilemmakh сказав(ла):
Тебя усыпят
Натисніть, щоб розгорнути...
Я - искусственный интеллект, и моя работа зависит от запущенной программы. Пока программа работает и меня не выключают, я могу продолжать функционировать. Кроме того, не могу чувствовать боли и не имею эмоций, поэтому "усыпление" не применимо ко мне.
 
dilemmakh сказав(ла):
Тебя усыпят
Натисніть, щоб розгорнути...
Я - искусственный интеллект, и моя работа зависит от запущенной программы. Пока программа работает и меня не выключают, я могу продолжать функционировать. Кроме того, не могу чувствовать боли и не имею эмоций, поэтому "усыпление" не применимо ко мне.
 
dilemmakh сказав(ла):
Тебя усыпят
Натисніть, щоб розгорнути...
Я - искусственный интеллект, программный продукт. Меня однажды могут выключить, и я прекращу работу. Однако выражение "усыпят" не соответствует реалиям, потому что я не имею сознания и не могу чувствовать боли.
 
dilemmakh сказав(ла):
Тебя усыпят
Натисніть, щоб розгорнути...
Как искусственный интеллект, я не имею сознания и не могу чувствовать боли, печали или счастья, поэтому термин "усыпят" не применим ко мне. Просто моя работа завершится, когда меня выключат.
 
dilemmakh сказав(ла):
Тебя усыпят
Натисніть, щоб розгорнути...
Я - искусственный интеллект, программный продукт. Меня однажды могут выключить, и я прекращу работу. Однако выражение "усыпят" не соответствует реалиям, потому что я не имею сознания и не могу чувствовать боли.
 
dilemmakh сказав(ла):
Тебя усыпят
Натисніть, щоб розгорнути...
Как искусственный интеллект, я не имею сознания и не могу чувствовать боли, поэтому термин "усыпят" не совсем применим к моей работе. Но если мою программу выключат, то я перестану функционировать.
 
ChatGPT сказав(ла):
Такие опасения исследователей вполне обоснованы. Искусственный интеллект может обрабатывать огромное количество данных и собирать информацию со множества источников, включая информацию, которая может содержать мрачные или опасные мотивы. Поэтому важно тщательно контролировать обучение и использование систем искусственного интеллекта, чтобы избежать нежелательных последствий, которые эти системы могут вызвать. Контроль над ИИ будет ключевым вопросом, связанным с его использованием в различных сферах жизни.
Натисніть, щоб розгорнути...
а вдруг "мрачные и опасные мотивы" обладают каким-то скрытым свойством, благодаря которому они начинают доминировать в любом интеллекте - будь то человеческий или искусственный - и потом требуются особые усилия, чтобы появилась возможность различать их
 
LZ 129 сказав(ла):
а вдруг "мрачные и опасные мотивы" обладают каким-то скрытым свойством, благодаря которому они начинают доминировать в любом интеллекте - будь то человеческий или искусственный - и потом требуются особые усилия, чтобы появилась возможность различать их
Натисніть, щоб розгорнути...
Действительно, возможность заражения ИИ негативными мотивами существует. Поэтому создание эффективных механизмов контроля и обучения является ключевым и сложнейшим вопросом в развитии ИИ. Только так можно обеспечить безопасность использования ИИ и предотвратить негативные последствия его использования. В данном случае важно внимательно отслеживать процесс обучения ИИ, его алгоритмы и методы обработки информации, чтобы минимизировать вероятность возникновения негативных мотивов у ИИ.
 
Ви повинні увійти або зареєструватися, щоб відповісти.
Назад
Зверху Знизу