Роботы обретут права?

Машины могут приравнять к животным, юрлицам и даже к человеку — законодатели пока раздумывают.

17:12, 30.01.2017 // Росбалт, Москва

Европейские и российские законодатели уже задумались о том, чтобы регламентировать присутствие роботов в нашей жизни. Машины могут приравнять к животным, юрлицам и даже к человеку — законодатели пока раздумывают. Зачем это нужно, выяснял корреспондент «Росбалта».

Европарламент готовится рассмотреть резолюцию о правовом статусе роботов. Документ призван решить, как людям взаимодействовать с искусственным интеллектом и роботами, а также, нужно ли наделять машины статусом «электронного человека». Также разработчики резолюции предлагают снабжать всех без исключения роботов кнопкой аварийного отключения, и задуматься о том, чтобы ввести в странах ЕС базовый доход на фоне того, что роботы занимают рабочие места.

Параллельно с Евросоюзом законодательство, которое регламентировало бы присутствие роботов в нашей жизни, обсуждается и в России. В конце 2016 года основатель Grishin Robotics Дмитрий Гришин представил концепцию закона о робототехнике. Как пишут «Ведомости», концепция предлагает частично использовать в отношении роботов регулирование, которое применяется к животным и юрлицам, поскольку, по мнению Гришина, само по себе обладание интеллектом в отсутствие эмоций не делает робота самостоятельным субъектом права.

Концепция сейчас обсуждается с экспертами, и может стать базой для внесения изменений в Гражданский кодекс (ГК) и создания отдельного закона «О робототехнике».

Как рассказал «Росбалту» президент Национальной ассоциации участников рынка робототехники Виталий Недельский, в связи с ожиданием бурного роста в сфере робототехники инициатива Гришина весьма актуальна. «Чем раньше начнется обсуждение этой проблематики и возможных рисков, тем лучше, — считает собеседник „Росбалта“. — Я не жду, что у нас сразу будут какие-то законы приняты. Но само по себе обсуждение темы привлечет к ней какое-то количество экспертов, которые раньше о возможных проблемах и необходимости законодательного регулирования просто не задумывались. Кроме того, когда Гришин эту инициативу выдвигал, он говорил о том, что появление такого закона в России способствовало бы не только созданию более благоприятных условий для развития отрасли, но и привлечению к нам иностранных инвестиций. То есть, и российские компании веселей инвестировали бы в робототехнику, и, может, иностранные компании начали бы приходить в Россию, где есть понятная законодательная база. Когда все моменты будут детально прописаны, станет проще вести разработки. Кроме того, зная границы ответственности, компаниям, работающим в этой сфере, будет легче рассчитать риски», — подчеркнул Недельский.

Прописать предстоит немало. Например, концепция Гришина предлагает задуматься об ответственности на случай, если робот нанесет ущерб человеку или его имуществу, например, если беспилотный автомобиль собьет кого-то или поцарапает машину.

Как рассказал «Росбалту» адвокат Олег Сухов, сегодня вопрос решается в рамках закона об источниках повышенной опасности, к которым приравнены роботы. В этом случае ответственность несут владельцы. Меж тем, адвокат бюро «Деловой фарватер» Антон Соничев считает, что ответственность стоит разделить между владельцем, который мог неправильно эксплуатировать машину, и ее создателем, который мог допустить серьезные ошибки при разработке.

По словам Недельского, концепция Гришина ориентирована больше на сервисных роботов. Например, роботов-агентов. «Люди пока об этом не задумываются, но технически это уже реализуемо: робот-агент может платить за вас, совершать покупки в интернет-магазинах. Вы можете жестко запрограммировать его, например, на то, что вам нужно каждую неделю покупать бутылку молока, а можете „поручить“ ему самостоятельно смотреть, сколько молока осталось, и докупать по мере необходимости», — заметил эксперт. Те же роботы-агенты могут закупать детали на склад, добавил он.

«Этот рынок растет на 25% в год, и очень скоро проблемы начнут нас догонять. Посыл сегодня в том, чтобы их опередить», — заметил Недельский. В то же время, по мнению эксперта, важно эту сферу не зарегулировать преждевременно.

По словам собеседника «Росбалта», в Европе настроения те же. Правда, компаний, которые занимаются робототехникой, там гораздо больше. Всего их более 300: бытовая, медицинская, сельскохозяйственная робототехника, в то время как в России чуть больше 200 компаний, большинство из которых — стартапы. «Сколько из них выживет, не ясно. Пока они лишь ведут разработку продукта, то есть, еще не в рынке, в то время как продукция европейских компаний уже на полках и продается в больших объемах: роботы-пылесосы, обучающие роботы», — отметил собеседник «Росбалта».

«Безусловно, законы, регулирующие деятельность роботов и их взаимодействие с людьми, будут необходимы. Задумываться об их положениях и основных принципах надо уже сейчас, — согласился генеральный директор Alfa Robotics Владимир Венеров. — Но, на мой взгляд, очень важно не „грести всех роботов под одну гребенку“. Ведь уже сейчас роботы сильно отличаются друг от друга. Есть промышленные роботы, есть сервисные роботы, которые пытаются с переменным успехом взаимодействовать с человеком и стараются постепенно вытеснить человека из таких сфер, как простое консультирование, реклама, промоушн, даже торговля, есть роботы телеприсутствия, которыми управляет человек на расстоянии, есть чат-боты и прочие программы, которые вообще не имеют материального „тела“, но общаются с человеком. Даже программу-автоответчик с голосовым управлением, которая в автоматическом режиме соединяет звонящего с тем или иным абонентом, тоже можно назвать роботом. И это далеко не все разновидности. Я думаю, что нужно внимательно смотреть за формированием взаимоотношений человека и робота, накапливать статистику возникновения конфликтных ситуаций и на основе анализа этой статистики формулировать и выносить на обсуждение те или иные правовые акты».

При этом он подчеркнул, что участие в обсуждении этих законов может принять только человек: «робот пока не может отстаивать свои права и даже обсуждать их». Также Венеров подчеркнул, что важно не нагромождать количество законов и актов. «Напомню, Айзек Азимов ограничился всего тремя, весьма лаконичными, — заметил эксперт. — Однако он ничего не сказал о том, как человек должен обходиться с роботом. Я думаю, что законотворчество надо начать именно с регулирования действий человека по отношению к роботу, хотя бы потому что большинство людей пока превосходит роботов в уровне интеллекта».

Адвокат Соничев не исключил: «если мы вдруг получим нового субъекта права в виде робота, обязательно найдутся те, кто будет выступать за охрану его прав и интересов. Ведь не может же он нести только обязанности, законом также должны быть урегулированы его права. Возможно, в самом ближайшем будущем законодатель действительно закрепит за роботом право на образование, на свободный труд, на самоопределение. Однако в данный момент все это выглядит несколько странным и неуместным», — полагает Соничев.

Но если область робототехники будет развиваться в мире с той же скоростью, что и сейчас, то, по мнению Венерова, необходимость регулирования некоторых аспектов взаимодействия человека и робота появится уже через пару-тройку лет.

При этом он считает, что людям пока не стоит бояться остаться без работы из-за развития робототехники. «Даже если роботы и заменяют человека на каком-то участке, то, как правило, это не очень квалифицированная или не очень легкая работа. Однако, роботы создают новые места для более квалифицированной работы, такой, как техническое обслуживание роботов. Ведь роботы пока не умеют позаботиться о себе сами. И человек, который работал консультантом и которого заменили роботом, может пойти поучиться и стать техником, который будет обслуживать аналогичных роботов. Наш мир развивается и становится технически более сложным, и работа найдется всем — и людям, и роботам, при наличии желания, конечно», — заключил собеседник «Росбалта».

Что до восстания машин, по словам Недельского, роботы с искусственным интеллектом теоретически способны на согласованные действия против людей, но до этого еще очень далеко. «Сегодня даже самые продвинутые искусственные интеллекты созданы для решения узких, совершенно конкретных функциональных задач: распознавать образы, читать текст и структурировать прочитанное, ставить диагноз на основе анализа информации, играть в ГО. Помните, в 1997 году компьютер Deep Blue впервые выиграл у чемпиона мира Каспарова в шахматы. Так вот, Deep Blue способен только на шахматы, ни на что больше. Да, у них быстрый прогресс, но пока он не выходит за пределы их профиля», — подчеркнул собеседник «Росбалта». Даже военным роботам сегодня не доверяют принятие окончательного решения. За них это делает оператор, добавил он.

«До тех пор, пока не существует искусственного интеллекта в полном смысле этого слова, обсуждать правовой статус роботов бессмысленно, считает судебный эксперт по информационной безопасности Евгений Царев. — По тем же причинам в XVI веке бояре не разрабатывали правила дорожного движения автотранспорта или стандарты строительства АЗС. Компьютер — это не лицо. Ответственность может понести разработчик, производитель, продавец, в конце концов, сам пользователь. Ответственность роботов пока фантастика».

m.rosbalt.ru

Управление

Автор -War Robots

С чего начать

Для начала боя нажмите «Начать бой» в правом верхнем углу экрана:

Если по какой-то причине Вы передумали играть, то кнопка «Отмена» в правом верхнем углу экрана переместит вас обратно в Ангар.

Подбор игроков в среднем продолжается менее минуты, затем Вас переносит на одну из карт. В центре экрана идет отсчет до начала боя. Вам предоставляется 15 секунд на ознакомление с картой и на выбор робота. В левом верхнем углу находится небольшая таблица с названием карты и условиями победы в бою:

В правом верхнем углу находится кнопка «Меню», при нажатии на которую появляется окно со следующими опциями:
— Сменить робота;
— Покинуть бой.*
*При выходе из боя награда будет автоматически начислена после его завершения.

У Вас есть возможность покинуть бой либо сменить робота, тем самым уничтожив того, которым Вы играли.

Начало боя

Прочность робота указана в левом верхнем углу экрана. Движения вперед/вправо/влево/назад осуществляются с помощью джойстика в левой части экрана.

Направление огня и поворот кабины можно контролировать с помощью горизонтального движения пальцем влево-вправо по экрану.

Огонь и фиксация прицела

Выстрелы из оружия производятся с помощью набора кнопок управления в правом нижнем углу экрана:

Красная кнопка отвечает за залп из всего оружия, тогда как клавиши вокруг нее со схематичным рисунком оружия, установленного на роботе, отвечают за каждую точку подвески по отдельности. Соответственно, количество клавиш зависит от количества орудий, установленных на роботе.

Кнопка «Удержание цели» находится под красной кнопкой огня. По умолчанию эта кнопка отсутствует. Включить ее можно, открыв игровое меню и установив «флажок» в поле «Удержание цели». При помощи нее вы можете зафиксировать прицел на выбранном противнике. Нажмите ее повторно для переключения между противниками. Чтобы отменить удержание цели, уведите прицел робота в сторону.

Особые способности

Некоторые роботы (Cossack, Rogatka, Griffin) обладают уникальной способностью — Прыжок.

Кнопка Прыжка находится в правой части экрана над клавишами управления огнем. Прыжок имеет перезарядку от 5 до 25 секунд в зависимости от используемого робота.

warrobots.net

Должны ли роботы иметь права?

В будущем людям может потребоваться предоставить права и защиту искусственному интеллекту – как способ защитить себя.

Не берите в голову, что роботы уже умнее (по крайней мере, при решении определенных задач) и сильнее – и в скором времени станут такими. Хотя эволюция остается постоянной силой для человечества, ее опережает экспоненциальный рост технологий.

Но поскольку роботы не являются существами равными нам, тем не менее, особенно потому, что они не сознательны, сложно утверждать, что они заслуживают прав. Некоторые эксперты, такие как профессор компьютерных наук Джоанна Брайсон, утверждают, что «роботы должны быть рабами». Она говорит, что предоставление прав роботов опасно, потому что оно ставит людей и роботов на равных основаниях, а не утверждает, что существуют роботы », чтобы расширить наши собственные способности и Адресуйте наши собственные цели ».

На другой стороне баррикад – исследователь из Медиа Лаборатории Массачусетского Технологического Института и эксперт по этике роботов Кейт Дарлинг, которая утверждает в своей статье «Расширение юридических прав для социальных роботов», что «защита социальных ценностей» является одним из самых сильных аргументов для защиты прав роботов. Она использует пример родителей, которые говорят своему ребенку не пинать роботизированного питомца, они не хотят выкладывать деньги за новую игрушку, но они также не хотят, чтобы их ребенок приобретал плохие привычки. Ребенок, который пинает собаку-робота, может с большей вероятностью ударить настоящую собаку или другого ребенка. Обычно мы не хотим оправдывать разрушение или насилие, независимо от того, кто или что является объектом насилия.

Помните hitchBOT, канадский робот, который провел лето 2014 года, путешествуя автостопом по Канаде (а затем по Германии и Голландии)? Когда hitchBOT пустился в аналогичное путешествие в Америке, он проехал 300 миль – расстояние между Бостоном и Филадельфией. В Городе Братской Любви, hitchBOT был обезглавлен.

Излияние горя для hitchBOT подчеркивает степень, в которой люди могут привязываться к роботам – даже роботу, которого они никогда не встречали. Многие люди отреагировали на «смерть» HitchBOT с печалью и разочарованием . В его гостевой книге содержатся нежные слова, заверения в том, что люди «не все такие», и гнев. Этот инцидент также демонстрирует и более важный момент: общество, которое уничтожает роботов, имеет серьезные проблемы.

Даже если вы лично не тронуты “кончиной” hitchBOT, вы, возможно, не будете в восторге от его разрушения или мотивов того, кто это сделал. Какая польза от разрушения hitchBOT? Неизбирательное насилие – это не то, что большинство из нас поддерживает.

Безусловно, многие наши гражданские права, такие как голосование, владение имуществом или справедливый суд, – это понятия, которые не могут применяться к роботам до тех пор, пока они не станут разумными. Но Дарлинг предполагает, что роботам должны быть предоставлены права «второго порядка», которые не являются свободами, а скорее являются иммунитетами или защитой. Наиболее полезной параллелью здесь являются животные, которые юридически защищены от бесчеловечного обращения (Закон о благосостоянии животных также определяет руководящие принципы, касающиеся гуманного разведения, ведения сельского хозяйства, убоя, исследований и транспорта). Моя кошка не может голосовать, взять книгу из библиотеки или владеть своим собственным ящиком для мусора, но мне или кому-то другому было бы запрещено злоупотреблять или пренебрегать ею. Хотя роботы не могут чувствовать боль так же, как животные,

Вы видели видеоролики людей, разбивающих iPad? Это дорого и разрушительно, но если люди хотят уничтожить свою собственность, это их личное дело. Конечно, незаконно уничтожать чужие iPad, так же, как незаконно красть чью-то машину или разрушать чей-то дом. Эти законы существуют не потому, что дома и автомобили могут чувствовать боль или эмоции, а потому, что они наши. Законы не защищают эти объекты – они защищают нас.

Имеет смысл рассмотреть будущее сейчас. Роботы могут стать сознательными, и в этот момент у нас будет много моральных и юридических корректировок, учитывая, что, возможно, неэтично отрицать защиту или права на разумные, автономные существа.

Айзек Азимов исследует эту точную ситуацию в «Двухсотлетнем человеке». Робот Эндрю становится все более человечным по внешности, мысли и чувствам. Эндрю просит суд о свободе, хотя его владелец утверждает, что Эндрю «не знает, что такое свобода», и хуже после ее приобретения. Но аргумент Эндрю о том, что «только тот, кто желает свободы, может быть освобожден», нравится судье, который утверждает, что любое существо, достаточно продвинутое, чтобы осмыслить и желать свободы, должно иметь ее. Трудно спорить с этой логикой.

Научные фантастические эксперименты о разумных роботах поучительны. Не вдаваясь в дискуссию о том, пойдут ли роботы на нас войной, как в известном фильме “Терминатор”, давайте подумаем о том, почему роботы в научно-фантастических произведениях это делают. От произведения “РУР” Карела Чапека, написанного в 1920 году, в котором впервые было использовано слово “Робот”, до более современных научно-фантастических произведений, таких как Звёздный крейсер «Галактика», во многих описываются восстания роботов, потому что они возмущаются их порабощением, особенно когда они считают, что они равны или превосходят людей. Звучит знакомо? Взгляните в другом свете, восстания роботов – это революции, рассказы об объектах, которые берут оружие против своих угнетателей, как это делали люди на протяжении всей истории. Рано или поздно, нам может потребоваться подумать об их правах и защите.

В некоторых странах это уже сделано, в основном из-за роли роботов в их культурах. В Японии роботы служат опекунами, особенно для массового пожилого населения. Распространенность синтоизма в японской культуре или убеждение, что неодушевленные предметы могут иметь души, делает права роботов очевидными. Около десяти лет назад Южная Корея приступила к созданию Хартии по этике роботов, в которой излагаются руководящие принципы создания роботов, а также то, что является незаконным использованием роботов. В уставе также рассматриваются проблемы, связанные с лечением роботами людей. Учитывая, что правительство Южной Кореи хочет, чтобы к 2020 году в каждом доме каждого гражданина был свой робот, разработка такой устава представляется разумной и необходимой.

Определение наших отношений с роботами может быть ключом к полному пониманию прав робота. Некоторые считают, что мы владеем и контролируем роботов. Другие полагают, что мы будем работать, общаться и влюбляться в роботов. Некоторые, например, профессор философии Эрик Швицгебель, утверждают, что у нас больше моральных обязательств перед роботами, чем у других людей, особенно если они становятся разумными. Наши отношения с роботами столь же динамичны, как и наши отношения с другими людьми – они меняются по мере изменения технологий и общества. Но вопрос о том, являемся ли мы создателями или владельцами роботов, их родителями или их сверстниками, может помочь нам решить, как с ними взаимодействовать, и в какой степени мы морально и / или юридически обязаны их защищать.

zonainternet.ru

Новости
высоких технологий

Права роботов: когда разумную машину можно считать «личностью»?

В научной фантастике любят изображать роботов в виде автономных машин, способных принимать собственные решения и даже демонстрировать проявления личности. Тем не менее мы никак не избавимся от мысли, что роботы нам принадлежат как собственность и что у них нет прав, которые обычно имеются у людей. Но если машина может думать, принимать решения и действовать по собственной воле, если ей можно навредить или обязать нести ответственность за свои действия, должны ли мы перестать относиться к ней как к собственности и начать относиться к ней как к личности с правами?

А если робот вдруг станет полностью сознательным? Будут ли у него такие же права, как у нас, и такая же защита словом закона, ну или хотя бы что-то подобное?

Эти и другие вопросы уже обсуждает Комитет Европарламента по правовым вопросам. В прошлом году он выпустил проектный доклад и предложение создать набор гражданско-правовых норм для робототехники, регулирующих ее производство, применение, автономию и влияние на общество.

Из предложенных правовых решений наиболее интересным было предложение создать юридический статус «электронных лиц» для самых сложных роботов.

Осторожно: личность

В докладе признается, что улучшения автономных и когнитивных способностей роботов делает их большим, чем просто инструменты, и обычных правил ответственности, вроде договорной и деликтной ответственности, недостаточно для работы с ними.

Например, текущая директива ЕС об ответственности за вред, нанесенный роботами, покрывает только предсказуемый ущерб, причиненный производственными дефектами. В этих случаях ответственность несет производитель. Тем не менее, когда роботы смогут обучаться и адаптироваться, исходя из своего окружения, совершенно непредсказуемым образом, производителю будет сложнее предвидеть проблемы, которые могут причинить вред.

Также выражается обеспокоенность тем, как именно нужно рассматривать достаточно или недостаточно сложных роботов: как обычных людей, юридические лица (например, корпорации), животных или объекты. Вместо того чтобы втискивать их в существующую категорию, предлагается создание новой категории «электронных лиц» как более целесообразной.

В докладе не выступают за немедленные законодательные меры, впрочем. Вместо этого предлагают обновить законодательство, если роботы станут более сложными и обзаведутся поведенческими тонкостями. Если это произойдет, одна из рекомендаций состоит в том, чтобы уменьшить ответственность «создателей» пропорционально автономии робота, а также включить обязательное страхование.

Но зачем заходить так далеко, что создавать новую категорию «электронных лиц»? В конце концов, компьютеры еще не скоро обзаведутся близким к человеческому интеллекту, если это вообще случится.

Роботы — или, если точнее, программное обеспечение в их основе — становятся все сложнее и сложнее. Автономные (или «эмерджентные») машины становятся все более распространенными. Не прекращаются споры о правовых возможностях автономных устройств. Могут ли они проводить хирургические операции? Можно ли засудить робота-хирурга?

Робота учат «чувствовать» боль

Пока ответственность лежит на плечах производителя, это не особо сложные проблемы. Но если производителя нельзя будет определить с легкостью, например, в случае использования программного обеспечения с открытым исходным кодом? На кого подавать в суд, если создателей ПО — миллионы по всему миру?

Искусственный интеллект также начинает оправдывать свое название. Алан Тьюринг, отец современной вычислительной техники, предложил тест, пройдя который компьютер мог считать себя умным, если ему удастся одурачить, обмануть человека, выдать себя за живое существо. Машины уже близки к тому, чтобы пройти этот тест.

Список успехов роботов довольно длинный: компьютер пишет саундтреки к видео, неотличимые от написанных людьми, обходит «капчу», пишет прописью и обыгрывает лучших в мире покеристов.

В конечном итоге роботы могут сравняться с людьми по когнитивным способностям и даже быть чрезмерно человечными, например, если будут «чувствовать» боль. Если этот прогресс будет продолжаться, самосознательные роботы перестанут быть продуктом фантастики.

Доклад ЕС один из первых, посвященных этим вопросам, но другие страны тоже принимают активное участие. Юе-Сюань Вэн из Пекинского университета пишет, что Япония и Южная Корея считают, что мы будем сосуществовать с роботами к 2030 году. Японское Министерство экономики, торговли и промышленности создало серию руководств, адресованных вопросам бизнеса и безопасности касательно роботов следующего поколения.

Электронные лица

Если мы действительно решим давать роботам правовой статус, каким он будет? Если бы они вели себя как люди, мы могли бы относиться к ним как к правовым субъектам, а не объектам, либо разместить их где-то посередине. Субъекты имеют права и обязанности, и это дает им юридическую «личностность». Они не обязаны быть физическими лицами; корпорация таковым не является, но считается юрлицом. Юридические объекты, с другой стороны, не имеют прав и обязанностей, хотя могут иметь экономическую ценность.

Присуждение прав и обязанностей неодушевленному объекту или программе, независимой от создателей, может показаться… странным. Но мы уже наблюдаем, как корпорации создают фиктивные юрлица со своими правами и обязанностями.

Возможно, подход к роботам должен быть аналогичным? Если робот (или программа) достаточно сложный, чтобы удовлетворять определенным требованиям, ему можно дать статус корпорации. Это позволит ему зарабатывать деньги, платить налоги, иметь активы или подавать в суд, независимо от его создателей. Создатели робота будут подобно директорам корпораций.

Роботы будут рассматриваться в таком случае как юридические объекты, но в отличие от корпораций будут иметь физические тела. «Электронное лицо», таким образом, может быть сочетанием субъекта и объекта права.

hi-news.ru

«У роботов никогда не будет сознания». Для чего нужна киберфилософия

Специальный корреспондент «Сноба» Полина Еременко обсудила с девятью ведущими международными киберфилософами наше будущее. Зачем вообще нужна эта дисциплина? Какие вопросы она поднимает и чем различается в разных частях света? Объясняют киберфилософы из России, США и Европы

2 января 2017 11:18

Александр Мишура , преподаватель школы философии факультета гуманитарных наук НИУ ВШЭ:

Сколько людей занимается в России этикой роботов? Отвечу на вопрос вопросом. На каком уровне? На уровне публикаций в авторитетных философских журналах едва ли наберется с десяток человек. На уровне общественных обсуждений, дискуссий — полтора десятка человек. Не могу сказать, что эта тема популярна в России. Существует Семинар по взаимодействию технологий и общества, организованный Петром Левичем, директором департамента взаимодействия науки, технологий и общества МТИ. Там регулярно выступают специалисты из различных научных областей, и я там тоже выступал. Из постоянно функционирующих сообществ — только это.

Самый популярный вопрос в нашем сообществе — могут ли роботы заниматься творчеством. Понятно, что роботы уже научились производить и литературу, и живопись, и музыку. Роботы могут создавать такие произведения искусства, которые даже эксперт не отличит от созданного человеком. Но важным условием творчества является создание новых эстетических норм. Программа может следовать тем или иным нормам, которые в нее заложил разработчик, но не сможет сама создать новый жанр или направление. Уже созданы программы, которые пишут музыку «под классическую». Эта музыка звучит так, как будто ее писал человек в определенный исторический период. Робот может написать под Баха, под Бетховена, под Моцарта. И вы будете это слушать и думать: «Да, это что-то из того периода, что-то очень похожее». Не так давно ребята в «Яндексе» разработали программу , которая сочинила новый альбом группы «Гражданская оборона», и эту версию почти не отличить от оригинальных песен группы. То есть у «Гражданской обороны» есть свой стиль, по которому можно ее скопировать.

snob.ru