Рнн что это: Вспомнить то, что нельзя забыть. 1996

Содержание

Вспомнить то, что нельзя забыть. 1996 — Караван

2 апреля Президент Республики Казахстан Нурсултан Назарбаев подписал указ, разрешающий гражданам возвращать своим именам традиционное написание. “Лица казахской национальности по их желанию вправе изменить написание своих фамилий и отчеств с исключением несвойственных казахскому языку аффиксов, но с сохранением корневых основ фамилий и отчеств. При этом к имени отца при написании отчества слитно добавляются окончания “-улы” или “-кызы” в зависимости от пола лица”, – сказано в указе. Таким образом многие казахстанцы избавились от русских окончаний типа “-ов”, “-ев”.

Чтобы избежать путаницы, менять позволили только главные документы с новой фамилией – удостоверение личности и паспорт.

Но так человек носил сразу две фамилии: например, Ахмет по паспорту и Ахметов – по диплому. Тут же возникла путаница: как определить в тройном имени человека собственно имя? И как фамилию? Некоторые граждане были недовольны тем, что правила перевода имен всё равно опираются на русскую фонетику, которая не отражает тонкости казахского языка.

Например, фамилию Букеев по правилам сокращают до “Боке”. Хотя фамилия произошла от имени Бокей. “Й” в фамилии есть, но редуцирована в безударном слоге.

Один парламент – две палаты

30 января состоялись первые заседания палат нового парламента – сената и мажилиса. Спикером первой стал экономист и политолог Омирбек Байгелди. Вторую возглавил тертый политический калач – депутат четырех созывов Верховного совета Марат Оспанов. Журналистам он запомнился не только тем, что был автором экономической программы “От стабилизации – к росту”, принятой к рассмотрению правительством, которое тогда возглавлял Касым-Жомарт Токаев. И даже не тем, что, поддерживая Президента Назарбаева, не стеснялся его критиковать. А тем, что всегда был открыт для прессы. Иногда даже с “перебором”.

“Я достаточно либеральный спикер, хотя сам родом из оппозиции”, – сказал как-то Марат Турдыбекович. А в 1999-м настолько разошелся, что потребовал отставки правительства Нурлана Балгимбаева.

Бывшие мажилисмены – от Жасарала Куанышалина до Ирака Елекеева и Амангельды Айталы (хотя они придерживались разных взглядов) – прямо называли Оспанова одним из основателей нынешней политической системы Казахстана. Достаточно сказать, что Марат Турдыбекович стоял у истоков партии “Отан”. Его членский билет был под номером 3.

Скончался Оспанов в январе 2000-го. Но оставил добрую память о себе. За 30 лет казахстанцы всё чаще стали называть детей арабскими именами и отказываться от окончаний “-ов/ев” и “-ова/ева”

Полигон закрыли – “наследство” осталось

По требованию общественности и движения “Нарын”, которое возглавил аксакал Какен Кубейсинов, в Западно-Казахстанской области закрыли ядерный полигон “Азгир”.

С 1966 по 1979 год там произвели 17 подземных ядерных взрывов на 10 технологических площадках глубиной от 165 до 1 500 метров. Мощность взрывов достигала 25 килотонн в тротиловом эквиваленте.

Испытания проводили в непосредственной близости от населенных пунктов, при этом люди даже не догадывались, какой опасности они подвергаются. За эти годы в соляных куполах образовалось 9 устойчивых полостей объемом 1,2 миллиона кубометров. Они стали заполняться радиоактивными соляными растворами. После закрытия полигона начался процесс по захоронению полостей. Однако полностью избавиться от страшного наследия не удалось. Часть затопили подземные воды.

Три золотых богатыря

В американской Атланте прошла летняя Олимпиада, на которой наша республика дебютировала отдельной командой.

Первым чемпионом летних Игр в истории независимого Казахстана стал борец греко-римского стиля Юрий Мельниченко. Золото он выиграл 20 июля, хотя мог и не поехать в Атланту (годом ранее серьезно травмировал руку, а затем попал в автомобильную аварию).

Спустя 10 дней после первой высшей награды грянула сенсация: Александр Парыгин выиграл соревнования в пятиборье. В заключительной дисциплине – беге – он опередил явного фаворита россиянина Эдуарда Зеновку.

– Я был уже смертельно уставшим, но что-то внутри меня сказало: “Саш, потерпи немножко. Ради чего ты проливал пот и кровь на тренировках? Потерпи эти 300 метров”. И бежал, стиснув зубы. Момента падения Зеновки перед финишем не видел. У меня как будто на глазах были шоры: бежал только вперед, – вспоминал Парыгин.

На финишной прямой Парыгин буквально “выталкивал” себя вперед, и в этот момент Зеновка споткнулся, упустив победу и золотую медаль

Третье олимпийское золото Атланты досталось боксеру Василию Жирову. Он уже в первом бою сломал руку, но не снялся с соревнований. Более того, в итоге получил Кубок Вэла Баркера как самый техничный боксер олимпийского турнира.

– Я приехал в Атланту с мыслями стать олимпийским чемпионом. Другого результата для меня не существовало. И такие мелочи, как перелом руки, не могли меня остановить, – говорил Василий.

Сегодня Жиров живет в США. У него свой спортивный зал, в котором он работает фитнес-тренером. Тем же занимается и Парыгин, но в Австралии. Мельниченко остался в Казахстане, развивает свой вид спорта, занимая руководящие должности в различных федерациях и ассоциациях борьбы.

Катастрофа над Дели: два самолета и сотни погибших

12 ноября транспортный самолет Ил-76ТД авиакомпании “Казахстан ауе жолы”, выполнявший чартерный рейс Чимкент – Дели, столкнулся с Boeing-747 авиакомпании “Saudi Airways”

, который летел в Эр-Рияд. Самолеты оказались в одном воздушном коридоре на высоте 4,5 тысячи метров, в 40 километрах к западу от Дели. На борту Boeing было 314 человек. В Ил – 37.

Диспетчер увидел, как 2 точки, обозначающие самолеты, встретились на радаре. Это могло означать, что один из них прошел над другим. Но оба самолета перестали выходить на связь и пропали из зоны видимости. Диспетчер пытался вызвать оба экипажа, но ни тот, ни другой на связь не вышел.

Многочисленные свидетели видели сильный взрыв и как объятые пламенем обломки самолетов рухнули на землю. У людей, не понимавших, что происходит, началась паника.

Ил-76 прорезал своим левым крылом левое крыло Boeing. Еще наш самолет повредил своим хвостовым стабилизатором хвостовую часть пассажирского лайнера. Вращаясь, Boeing рассыпался на части. Ил-76, лишившись левого крыла, опрокинулся и рухнул.

Есть множество версий, высказанных индийскими и казахстанскими специалистами. Одна из них – это ошибка наземных служб аэропорта имени Индиры Ганди, не сумевших вовремя скорректировать действия пилотов. Индийская же сторона утверждала: казахстанские пилоты не поняли предупреждения диспетчеров Делийского аэропорта, говоривших по-английски, о приближающемся Boeing. Эту версию восприняли у нас с возмущением: экипаж Ил-76ТД уже несколько лет выполнял международные рейсы и в совершенстве владел английским языком. Командир транспортника 44-летний Александр Черепанов был опытнейшим пилотом.

Одна из крупнейших авиакатастроф и первая по числу жертв в истории столкновений самолетов в воздушном пространстве

На борту казахстанского самолета находились 10 членов экипажа и 27 пассажиров, в том числе граждане России и Кыргызстана. Лайнер был зафрахтован коммерсантами, которые намеревались отправить в Бишкек 30 тонн индийских товаров. На месте катастрофы спасатели обнаружили 4 выживших пассажиров из Ил-76ТД и 2 – из Boeing. Но они умерли, не дождавшись помощи.

Быть здоровым стало дороже

Год максимального ухудшения самочувствия казахстанцев. Средняя продолжительность жизни женщин упала до 70,3 года. Срок жизни мужчин – до 58,9 года. Материнская смертность очень высока: 52,9 на 100 000 новорожденных. Это более чем в 8 раз выше средней по странам Европейского союза. Почти все роды проходили в больничных условиях.

Прежняя система здравоохранения уже не работала, так как на нее не хватало средств. На новую страховую систему мы еще не перешли. Постановление правительства по внедрению страхования в медицине выйдет только в конце декабря. Люди занялись самолечением. Особенно ценились импортные лекарства. Считалось, что их производят для европейских стран по более высоким стандартам из лучшего сырья. Поэтому они избавляют от хворей надежнее и одновременно мягче для организма.

Импорт стоил в десятки раз дороже отечественных препаратов. Даже простой аспирин под европейским брендом был более востребован на рынке, чем ацетилсалициловая кислота, произведенная в России или Украине. Интерес к лекарствам подогревала активная реклама в газетах и на телевидении.

А у нас взорвался газ…

В ночь на 6 ноября в Петропавловске взорвалась многоэтажка. В руины превратились сразу 2 подьезда. Из-под завалов извлекли 8 человек, 2 попали в реанимацию, 10 – в тяжелом состоянии. Официальная версия – взрыв газового баллона. Но в это поверили немногие. В те времена в городе было много беглых воинов чеченской войны. По слухам, в одной из квартир хранили боеприпасы. Они и грохнули. Погибли взрослые и дети. Разрушенные подъезды стерли с лица земли. Каждый раз, когда на этой земле собирались что-то строить, горожане поднимались с возмущениями. Эта беда – яркое напоминание о лихих 90-х для петропавловцев.

Реформирование предприятий жилищно-коммунальной сферы, проходящее в условиях жуткой инфляции, спада производства и снижения платежеспособности населения, стало бедствием для потребителей.

В 1996-м карагандинцы лишились доступа к привычным благам цивилизации – воде, свету, теплу, газу. Их подавали “порционно” и в строго определенные часы. В остальное время люди спасались кто как мог. Самым востребованным товаром в то время стали керосиновые лампы, на которых можно было приготовить нехитрую еду и при этом погреться всей семьей, собравшись вокруг. Во многих дворах вечерами жильцы многоэтажек разводили костры и в складчину в казанах готовили ужин на весь подъезд.

Взрыв газа обрушил целый подъезд пятиэтажки в Аркалыке. Под руинами погибли 20 человек. В соседних домах вылетели все окна

Апофеозом техногенного кризиса конца года в Караганде стал взрыв газа, уничтоживший часть дома в самом центре города и унесший 2 жизни. Нерегулярность подачи голубого топлива оказалась роковой для жителей 4-этажки на проспекте Бухар Жырау. Согласно справке АО “Алаугаз”, злополучный дом в последний раз заправляли 22 октября. И после топливо в целях экономии подавали в квартиры лишь в какие-то дни и часы. К моменту очередной подачи “порции” кто-то из жильцов, видимо, просто оказался не готов к ее принятию.

18 декабря в результате взрыва газового баллона в Семипалатинске обрушился подъезд 5-этажки. Погибли 6 человек.

Впервые в истории Казахстана государство безвозмездно предоставило новые квартиры всем, кто выжил. А годом ранее в Аркалыке в результате взрыва в одном доме обрушился целый подъезд. За неуплату жителям 5-этажки отключили газ. Какой-то “Кулибин” самостоятельно врезался в систему, протянув резиновый шланг. Утечка – сигарета – спичка – взрыв. 20 погибших. Местные власти долго отказывались комментировать эту трагедию. Но они стали повторяться и в других городах страны: на фоне безработицы, регулярных задержек зарплаты и невозможности оплачивать постоянно дорожающую коммуналку это стало привычным явлением.

Хлебозавод на кухне, бензин из самовара

В 1996 году в Кызылординской области возник дефицит продовольствия. На рынках преобладали нерафинированное хлопковое масло из соседней Южно-Казахстанской области, макаронные изделия, сахар, дешевые конфеты-леденцы и парварда (популярная сладость). Хлеб тоже продавали на рынках – тысячи хозяек зарабатывали на прокорм семей, у себя на кухнях “выпуская” булки и батоны. Это стихийное предпринимательство спасло тогда регион от дефицита, так как официальные хлебозаводы и пекарни к тому времени закрылись.

У администрации региона и районов была только формальная возможность контролировать цены. Призывы к коммерсантам не задирать их не имели смысла: сегодня на рынках избыток масла – оно дешевое. Завтра кончилось – и “челноки” отправились с бочками за новыми партиями. Но пока завезут…

Срочно была создана областная комиссия по контролю над соблюдением дисциплины цен и тарифов. В основном она ориентировалась на сдерживание цен на хлеб, комуслуги, ГСМ.

За счет роста цен на ГСМ дорожало всё. В 1994–1995 годах стоимость всех перевозок возросла почти в 20 раз.

Рабочие группы акимата начали ежедневные рейды по базарам и магазинам. Сначала просто мониторили цены, потом начали задавать вопросы реализаторам: из чего складывается стоимость товаров и т. п. Населению, кстати, на время было запрещено вывозить рис мешками из региона, ибо у людей появилась привычка: куда бы ни ехали, везти с собой 2–3 мешка риса для перепродажи. Но запрет так и остался на бумаге, признавать его никто не спешил. Вспомнить то, что нельзя забыть. 1995

Изредка страну встряхивал дефицит бензина: когда простаивал то один НПЗ, то другой. В Приаралье в том году в степи появились первые “самовары” – левые цеха по перегонке нефти. Этот бензин был отвратительного качества. Но зато был всегда. “Самовары” просуществовали еще полтора-два десятка лет.

“Младшаки” становятся “авторитетами”

В 1996-м жамбылские газеты рассказывают в основном о молодежных разборках: перестрелки, поножовщина, убийства подростков и молодых людей происходят чуть ли не каждый месяц. На арену вышли юные крылья бандитских группировок “Кировские”, “Вольники”, “Амангельдинские” и прочих. Перед этим несколько лет в городе сериями шли убийства криминальных авторитетов: начался жесткий передел сфер влияния. Власть начала теснить группировки, которые, теряя силу, решали пустить корни в молодежную среду.

Именно в том году во многих школах области появились свои “положенцы”, которые на протяжении многих лет не только будут держать в страхе школьников и студентов, облагая их данью, но и начнут убивать тех, кто не желал жить по их законам.

Еще как минимум 10 лет неформальные лидеры будут устраивать громкие разборки на всю страну и принесут городу черную славу самого криминального. Даже сейчас вопрос о том, нет ли “положенцев” в школах, колледжах и вузах Тараза, остается открытым.

Это не шутки – мы едем в маршрутке

Гонки по оживленным улицам, выезд на встречную полосу, стихийные остановки, черный нал, карманники, жмущиеся друг к другу пассажиры… Это явление года – частные маршрутные такси. Они появились как альтернатива городскому общественному транспорту. Стоили дороже (15–20 тенге), но пользовались бешеной популярностью у населения. Их водители четко усвоили правило: едешь быстрее, впихнешь больше людей в салон (в запасе всегда было несколько раскладных табуреток или деревянных ящиков) – больше заработаешь. Оплата только наличными. Владельцы и арендаторы богатели, словно на дрожжах, не забывая отстегивать кому положено. Иначе на маршрут не выпустят, а машину и сжечь могут. Были такие прецеденты.

Днем, вечером маршрутки возили людей, а по выходным – нередко и свадебные, похоронные процессии, коробки с продуктами, скот. О комфорте, безопасности пассажиров никто не думал.

Да и население особо не жаловалось: везут быстро, порой без остановок, а попросил – притормозили и высадили. Карманники тоже быстро усвоили: набитая людьми, как сельдями, железная каракатица на колесах – хорошее место для чистки карманов и сумок пассажиров. В тесноте легко работать незамеченным. Попросил – остановили. Вышел – и был таков. Ни камер, ни сотовых телефонов, и лицо никто не вспомнит. Маршрутки в часы пик – любимые места разных извращенцев. Студентки жаловались, что к ним прижимались взрослые мужчины. И ничего не поделать – все едут впритык друг к другу.

В дополнение к этим бедам – порванные колготки, оторванные пуговицы, запачканная обувь, испорченное настроение. Водителей маршруток называли “беспредельщиками”. Бывали и их откровенные разборки с конкурентами прямо на дороге, с мордобоем. Борьба за пассажиров часто заканчивалась авариями.

Слетелись на “самое вкусное”

В год выхода правительственной программы приватизации и реструктуризации госсобственности иностранные гости зачастили в Экибастуз. Инвесторов привлекал потенциал сосредоточенных здесь добывающих и энергетических предприятий. Но перемены настораживали жителей региона: на собраниях и в прессе гремели споры о целесообразности передачи стратегических объектов частникам. А власти указывали на плачевное состояние энергетической отрасли, которую государство перестало финансировать: денег нет!

К тому времени выросли задолженности перед поставщиками топлива и электроэнергии, плюс проблемы с взаиморасчетами. Износ мощностей нарастал, работникам месяцами задерживали зарплату. К ноябрю “с молотка” в собственность или под управление новых владельцев перешли крупные объекты.

Раздробили имущество объединения союзного значения “Экибастузуголь”. Разрезы “Восточный”, “Северный”, “Степной”, “Богатырь” продали разным хозяевам – россиянам, Евроазиатской энергетической корпорации, американцам.

Компаниям из США достались крупнейшие в стране объекты: “Asses Industries Inc” пришла на разрез “Богатырь”, где уголь добывают открытым способом. Экибастузскую ГРЭС-1 взяла в управление корпорация “AES”, которой позже на правах концессии передали Шульбинскую и Усть-Каменогорскую гидроэлектростанции.

Экибастузский опыт 25 лет назад назвали уникальным и успешным: продать ГРЭС – за 1,5 миллиарда долларов. Круто! Но часть инвесторов первой волны вскоре покинула рынок. А стратегические энергообъекты сегодня входят в многопрофильный холдинг по управлению государственными активами “Самрук-Энерго”.

Фишка из того 1996-го: на пресс-конференции представительница “AES” прямо заявила: мол, если граждане не погасят долги по электроэнергии, то компания отключит свет всем должникам. Так оно и случилось.

“Пытки имели место”

Государственный следственный комитет признался в этом сам. И не под пытками. В отношении 238 сотрудников ГСК возбудили 204 уголовных дела. До суда дошли не все. ГСК был создан указом Президента РК 6 октября 1995 года.

– В конце декабря, – вспоминает бывший сотрудник, – меня вместе с коллегой отправили из Уральска в Алматы. Мы должны были из одного конца республики в другой – а это почти за 3 000 километров – этапировать подозреваемого. Но вот проблема: считалось, что мы являемся сотрудниками ГСК, но удостоверения у нас были еще милицейскими. Ну не успело руководство центрального аппарата заменить документы всем сотрудникам. Поэтому нам выдали еще и специальные справки, в которых черным по белому предлагалось воспринимать меня и моего напарника не милиционерами, а сотрудниками ГСК. Доставили мы подозреваемого в январе 1996- го без проблем. А в феврале руководство призналось, что к подследственным применяли пытки. Скандал!

Впрочем, скандальные разоблачения методов работы гээсковцев преследовали их еще год. В ноябре 1997-го ГСК приказал долго жить.

Новости Петропавловска…

В городе открыли первый теннисный корт – потому что этот вид спорта стал в стране политически модным и престижным. Но цены по арене были такими, что тренироваться и играть там могла только местная элита.

Местный завод ПЗТМ, тот самый бывший военный гигант, который изготавливал боеголовки для ядерного оружия, выпустил первую партию газовых счетчиков. Новый товар пошел потоком по стране. А в марте в городе состоялся самый шумный митинг: народ возмущался задержками с выплатами зарплат и пенсий, талонами, которые ввели вместо денег. Власти 2 дня убеждали протестующих, что найдут выход. А глава области лично обещал “найти конкретных виновных”. Ну он же не сыщик…

… и Семипалатинска

В декабре в область нагрянула ревизионная бригада комитета финансово-валютного контроля министерства финансов. Проверка показала, что облакимат не по назначению потратил 278 миллионов тенге. Тогдашнего акима Галымжана Жакиянова обвинили в том, что 2,2 миллиона тенге (почти 30 тысяч долларов по курсу 1996-го) он израсходовал на проведение месячника по ветеринарно-профилактическим мероприятиям. А также в перерасходе командировочных затрат на поездки за рубеж на 775 тысяч тенге (10 тысяч долларов). Эффективность этих расходов губернатор доказать не смог.

Сверхналогов на сверхприбыль “Гражданин” не добился

Представители казахстанской интеллигенции, культуры, науки и даже люди, входившие во власть, создали гражданское движение “Азамат”. Его лидерами стали первый казахстанский космонавт Тохтар Аубакиров, экономист Петр Своик, Галым Абильсиитов и Мурат Ауэзов. Они позиционировали себя как конструктивную оппозицию действующему кабмину, считая необходимым заменить его на “правительство народного доверия”. Основная идея – политические и экономические преобразования в стране, развитие местного самоуправления, выборность акимов, прозрачность приватизации, введение сверхналогов на сверхприбыль и т. д.

В том же году движение преобразовалось в одноименную демократическую партию. В 2001-м “Азамат” объявил о слиянии с Республиканской народной партией и “Народным конгрессом Казахстана” в единую политическую силу – “Объединенную демократическую партию”. На этом “Азамат” и закончился. По мнению политологов, на тот момент ничего из того, что предлагали демократы, реализовать законным путем было невозможно.

Это наш с тобой “Перекресток”

“Вижу во сне: и вот я подросток. Губами к твоим прикоснулся губам. Это же наш с тобой Перекресток! Слышишь? Оставь меня там…”. Кажется, эти строчки в середине 90-х не напевал только совсем далекий от телевидения человек.

В 1996 году “Хабар” показал первый отечественный сериал со звучным названием “Перекресток”, который просто “порвал” рейтинги.

За семейными историями о жизни простых жителей, перекликавшимися с историей страны, прильнув к ящику, наблюдал весь Казахстан. По воспоминаниям актеров, они предполагали, что отснимут серий 10–15, а получилось… 465! Целых 5 лет мыльная драма шла по ТВ. Идею, кстати, привезли англичане. Под их руководством и были сняты первые эпизоды. Популярность сериала можно было объяснить и великолепным актерским составом, и закрученным сюжетом, и тем, что made in KZ – ничего подобного ранее казахстанцы не видели. Ну не было тогда такого кино- и видеоразнообразия, как сейчас.

Авторы и исполнители ставшего популярным саундтрека к “Перекрестку” – отечественная группа “Овощи и фрукты”. В 2014 году вышло продолжение, где действие происходило уже на перекрестках столицы и с другими героями.

Домбра и слово были его оружием

1996-й объявлен Годом Жамбыла Жабаева. Область, в которой он жил и творил, носит его имя – Жамбылская. 150-летний юбилей поэта и последователя Суюнбая отметили с размахом – конкурсы, читательские часы, на которых вспоминали творчество великого земляка. Многие его произведения перевели на другие языки мира. Мастер уверенно побеждал конкурентов в айтысах и прославился как автор обличительных песен. При этом одним из самых известных его произведений стало обращение к блокадникам “Ленинградцы, дети мои!”.

Жабаев внес значительный вклад в культурную и общественную жизнь Казахстана. “Старый мудрый великан народной поэзии Жамбыл, несущий золотую струю подлинно народных творений из середины прошлых столетий, из недр и глубины народного творчества”, – сказал о его творчестве писатель Мухтар Ауэзов.

В 1996 году вышла юбилейная монета “150 лет Жамбылу Жабаеву”. На ее реверсе в центре – портретное изображение Жамбыла Жабаева с домброй.

Три заветные буквы

Налоговый кодекс 1995 года ввел новое понятие – регистрационный номер налогоплательщика. Или РНН. Цель проста: создать сквозную систему учета налогоплательщиков, с перекрестной проверкой данных. Так фискальные органы могли бы проследить движение денег и, главное – уплату налогов.

Каждому гражданину республики, в том числе детям и даже иностранцам, с Нового года присвоили личный номер налогового резидента, единый для всей страны. Отныне каждая купля-продажа квартиры, земельного участка или автомобиля была невозможна без указания РНН продавца и покупателя. Этот же номер указывали при оплате налогов, коммуналки и безналичных переводах.

Параллельно был введен социальный индивидуальный код – СИК. Аналог РНН, но для социальных служб.

Уникальный номер СИК состоял из 16 цифр и латинских букв. СИК оформляли во всех районных отделениях Государственного центра по выплате пенсий. РНН и СИК были отменены в 2013 году. Вместо них ввели национальные идентификаторы – ИИН и БИН. Теперь ИИН гражданина указан в удостоверении личности и паспорте.

Только факты

После распада СССР оказалось, что у бывших советских республик остались нерешенные вопросы по границам, в том числе и с Китаем. Чтобы решить эти проблемы, Россия, Китай, Казахстан, Кыргызстан и Таджикистан создали Шанхайскую пятерку. Позже она была преобразована в Шанхайскую организацию сотрудничества (ШОС). Это не военный альянс. Ее главная задача – укрепление стабильности и безопасности в регионе, борьба с терроризмом, наркотрафиком, экономическое, энергетическое, научное и культурное взаимодействие. Сегодня в ШОС входит более десятка стран мира.

В ноябре – грандиозный скандал: финалисты футбольного Кубка страны “Елимай” и “Мунайши” перед игрой потребовали отставки руководства федерации во главе с Куралбеком Ордабаевым, а после финала отказались от церемонии награждения. Результат финала аннулировали, а Кубок разыграли весной 1997 года между неудачниками полуфиналов.

Впервые Гран-при международного конкурса “Азия дауысы” достался казахстанскому исполнителю Бауыржану Исаеву. Юный шымкентец покорил жюри и публику артистизмом и потрясающе чистым исполнением. К сожалению, Бауыржан остался единственным артистом из Казахстана, которому удалось выиграть этот музыкальный марафон.

В Актау прошла торжественная церемония поднятия флага Военно-морских сил РК. Состоялся первый парад кораблей на Каспии.

В феврале в стране начали открывать семейные врачебные амбулатории. Первые 30 СВА – в Семипалатинской и Жезказганской областях. Параллельно появились и новинки: понятие “семейный врач”, “амбулатория”. Ну и собственный бюджет СВА – первый подушевой норматив на лечение. Правда, составил он тогда всего 23 тенге в месяц на одного пациента.

В Кустанайскую область прибыли финские орнитологи – для пересчета исчезающей популяции гуся-пискульки (от сородичей отличается высоким и писклявым голосом). За 30 лет популяция этой птицы сократилась в 7 раз. В 2013-м ее на всякий случай провозгласили Птицей года.

В июне АО “Шымкентшина” начало рассчитываться по долгам с работниками предприятия своей продукцией. Рабочие выносили через проходную по нескольку покрышек сразу. Рыночная цена на покрышки сразу отреагировала значительным падением стоимости.

15 февраля депутаты Карагандинского областного маслихата обратились в правительство с письмом, в котором спрашивали: как будет пополняться бюджет региона, если два крупнейших предприятия – АО “Кармет” и ПО “Карагандауголь” – продали, а новых собственников освободили от уплаты налогов? 18 июня всех работников выживших шахт приняли на работу в “Испат-Кармет”, который заключил соглашение с правительством о купле 15 шахт, обогатительной фабрики и 8 обслуживающих отрасль предприятий.

В августе средь бела дня на глазах у людей сын известного в Уральске тренера Тлека Камзеева Ункас из автомата Калашникова расстрелял 4 своих знакомых и скрылся. До сих пор находится в международном розыске.

В Кызылорде и других областных центрах по базарам и магазинам пошли рейды общественников при поддержке акиматовских чиновников – чтобы укротить цены на продукты питания. На аргументы торговцев: “Это рынок! Вы ничего нам не сделаете”, – методов у проверяющих не нашлось. Но эти акции были популярны в регионах еще года полтора-два.

14 мая первое казино в Кустанае открыл аким области Токтарбай Кадамбаев. И выразил надежду, что заведение будет исправно пополнять казну области.

16 декабря в Алматы открылся первый в стране 5-звездочный отель, построенный по европейским стандартам. На его строительство ушли смешные по сегодняшним меркам 73 миллиона долларов. На открытии присутствовали президенты Казахстана и Турции – Нурсултан Назарбаев и Сулейман Демирель. Дорогие и очень дорогие туристы – добро пожаловать! Кош келдiнiздер! Welcome!

В семипалатинской лаборатории НПО “Казахстан-Салют” начали производить аниматрониксы – двигающихся роботов. Первыми механическими монстрами стали древние рептилии – от динозавров до крокодилов. Через пару лет парк этих тварей “Джунгли” стал одним из первых развлекательных шоу в столице Казахстана. А первым зрителем был Президент Нурсултан Назарбаев.

Курс доллара

январь – 64,3 тенге, декабрь – 67,3 тенге

Редакция газеты «КАРАВАН» выражает благодарность ЦГА КФДЗ РК в лице директора ОМАРОВА Ж. С. за предоставленные фотоматериалы.

Примечания РНН — Русские Блоги

Примечания РНН

Ссылочная ссылка: https://blog.csdn.net/haitaolang/article/details/60170383

RNN:

Оцените возможность предложения

Автоматическая генерация текста

1. Определение

          RNN называется RNN, потому что он циклически обрабатывает одну и ту же задачу, то есть предсказывает, каким будет следующее слово в предложении. RNN считает, что в этой циклической задаче каждый шаг не является независимым, поэтому он циклически записывает информацию (также называемую памятью) всего предыдущего текста в качестве входных данных для прогнозирования текущего слова.

В RNN каждое слово используется в качестве уровня для его прогнозирования.

F функция, как правило, tanh или ReLU

Ot — это вероятность появления всех слов в словаре в момент времени t, которая равна || = | словарь |

Все слои разделяют U и W

2. Применение

1 Языковая модель и генерация текста

                            В языковой модели последовательность векторов слов кодируется во время ввода, а на выходе получается серия предсказанных слов. При обучении модели сделайте вывод равным реальному вводу в следующий момент, потому что при генерации текста вывод в этот момент соответствует вводу в следующий момент.

 2 Машинный перевод

                             Разница между машинным переводом и языковой моделью заключается в том, что машинный перевод должен ожидать вывода всех входных данных, прежде чем он сможет получить всю информацию о переведенном предложении в это время.

. 3 Распознавание речи.

              Введите последовательность звуковой волны информации, а затем предсказать речь.

           3.4 Создать описание изображения

                             Вместе RNN и CNN могут использоваться для генерации описаний немаркированных изображений.

3. Учебные РНН

Обучение RNN такое же, как обучение традиционной нейронной сети, которая использует алгоритм обратного распространения, но есть некоторые отличия. Здесь все шаги имеют один и тот же параметр. Выход регрессии каждого шага зависит не только от текущего момента, но и от предыдущего момента. Шаг, это называется алгоритм BPTT (распространение назад).

15) Учебник по РНН — CoderLessons.com

Что нам нужно в РНН?

Структура искусственной нейронной сети относительно проста и главным образом связана с умножением матрицы. На первом этапе входные данные умножаются на первоначально случайные веса, а смещение преобразуется с помощью функции активации, а выходные значения используются для прогнозирования. Этот шаг дает представление о том, как далеко сеть от реальности.

Применяемая метрика — это потеря. Чем выше функция потерь, тем тупее модель. Для улучшения знаний о сети требуется некоторая оптимизация путем корректировки весов сети. Стохастический градиентный спуск — это метод, используемый для изменения значений весов в направлении прав. После настройки сеть может использовать другую порцию данных для проверки своих новых знаний.

Ошибка, к счастью, ниже, чем раньше, но недостаточно мала. Этап оптимизации выполняется итеративно до тех пор, пока ошибка не будет минимизирована, т. Е. Больше информации не может быть извлечено.

Проблема с этим типом модели заключается в том, что у нее нет памяти. Это означает, что вход и выход независимы. Другими словами, модель не заботится о том, что было раньше. Возникает вопрос, когда вам нужно предсказать временные ряды или предложения, потому что сеть должна иметь информацию об исторических данных или прошлых словах.

Чтобы преодолеть эту проблему, был разработан новый тип архитектуры: Рекуррентная нейронная сеть (далее — RNN)

В этом уроке вы узнаете.

Что такое RNN?

Рекуррентная нейронная сеть выглядит очень похоже на традиционную нейронную сеть за исключением того, что к нейронам добавляется состояние памяти. Вычисление для включения памяти просто.

Представьте себе простую модель с одним потоком нейронов в пакете данных. В традиционной нейронной сети модель производит результат путем умножения входных данных на вес и функцию активации. При использовании RNN этот вывод отправляется обратно самому себе количество раз. Мы называем timestep количество времени, в течение которого выход становится входом следующего умножения матрицы.

Например, на рисунке ниже вы можете видеть, что сеть состоит из одного нейрона. Сеть вычисляет умножение матриц между входом и весом и добавляет нелинейность с функцией активации. Это становится выходом в t-1. Этот вывод является входом умножения второй матрицы.

Ниже мы кодируем простой RNN в тензорном потоке, чтобы понять шаг и форму вывода.

Сеть состоит из:

Четыре входа
Шесть нейронов
2-х тактные шаги

Сеть будет работать, как показано на рисунке ниже.

Сеть называется «периодической», поскольку она выполняет одну и ту же операцию в каждом квадрате активации. Сеть вычислила веса входов и предыдущего выхода, прежде чем использовать функцию активации.

import numpy as np
import tensorflow as tf
n_inputs = 4
n_neurons = 6
n_timesteps = 2
The data is a sequence of a number from 0 to 9 and divided into three batches of data.
## Data 
X_batch = np.array([
        [[0, 1, 2, 5], [9, 8, 7, 4]], # Batch 1
        [[3, 4, 5, 2], [0, 0, 0, 0]], # Batch 2
        [[6, 7, 8, 5], [6, 5, 4, 2]], # Batch 3
    ])

Мы можем построить сеть с заполнителем для данных, текущей стадии и выходных данных.

Определите заполнитель для данных

X = tf.placeholder(tf.float32, [None, n_timesteps, n_inputs])

Вот:

Нет: неизвестно и примет размер партии
n_timesteps: сколько раз сеть отправит выходные данные обратно в нейрон
n_inputs: количество входов на пакет

Определить рекуррентную сеть

Как упомянуто на картинке выше, сеть состоит из 6 нейронов. Сеть будет вычислять два точечных произведения:

Входные данные с первым набором весов (т.е. 6: равно числу нейронов)
Предыдущий вывод со вторым набором весов (т.е. 6: соответствует номеру вывода)

Обратите внимание, что во время первой прямой связи значения предыдущего вывода равны нулю, потому что у нас нет доступных значений.

Объект для построения RNN — это tf.contrib.rnn.BasicRNNCell с аргументом num_units для определения количества входных данных.

basic_cell = tf.contrib.rnn.BasicRNNCell(num_units=n_neurons)

Теперь, когда сеть определена, вы можете вычислить выходы и состояния

outputs, states = tf.nn.dynamic_rnn(basic_cell, X, dtype=tf.float32)

Этот объект использует внутренний цикл для умножения матриц соответствующее количество раз.

Обратите внимание, что рекурентный нейрон является функцией всех входов предыдущих временных шагов. Так сеть строит свою собственную память. Информация из предыдущего времени может распространяться в будущем. Это магия рекуррентной нейронной сети

## Define the shape of the tensor
X = tf.placeholder(tf.float32, [None, n_timesteps, n_inputs])
## Define the network
basic_cell = tf.contrib.rnn.BasicRNNCell(num_units=n_neurons)
outputs, states = tf.nn.dynamic_rnn(basic_cell, X, dtype=tf.float32)
init = tf.global_variables_initializer()
init = tf.global_variables_initializer()
with tf.Session() as sess:
    init.run()
    outputs_val = outputs.eval(feed_dict={X: X_batch})
print(states.eval(feed_dict={X: X_batch}))
[[ 0.38941205 -0.9980438   0.99750966  0.7892596   0.9978241   0.9999997 ]
 [ 0.61096436  0.7255889   0.82977575 -0.88226104  0.29261455 -0.15597084]
 [ 0.62091285 -0.87023467  0.99729395 -0.58261937  0.9811445   0.99969864]]

Для пояснения вы печатаете значения предыдущего состояния. Вывод, напечатанный выше, показывает вывод из последнего состояния. Теперь напечатайте все выходные данные, вы можете заметить, что состояния — это предыдущий вывод каждого пакета. То есть предыдущий вывод содержит информацию обо всей последовательности.

print(outputs_val)    
print(outputs_val.shape)    
[[[-0.75934666 -0.99537754  0.9735819  -0.9722234  -0.14234993
   -0.9984044 ]
  [ 0.99975264 -0.9983206   0.9999993  -1.         -0.9997506
   -1.        ]]

 [[ 0.97486496 -0.98773265  0.9969686  -0.99950117 -0.7092863
   -0.99998885]
  [ 0.9326837   0.2673438   0.2808514  -0.7535883  -0.43337247
    0.5700631 ]]

 [[ 0.99628735 -0.9998728   0.99999213 -0.99999976 -0.9884324
   -1.        ]
  [ 0.99962527 -0.9467421   0.9997403  -0.99999714 -0.99929446
   -0.9999795 ]]]
(3, 2, 6)

Выход имеет вид (3, 2, 6):

3: количество партий
2: номер временного шага
6: количество нейронов

Оптимизация рекуррентной нейронной сети идентична традиционной нейронной сети. Более подробно о том, как оптимизировать код, вы увидите в следующей части этого руководства.

Приложения РНН

RNN имеет многократное использование, особенно когда речь идет о прогнозировании будущего. В финансовой индустрии RNN может помочь в прогнозировании цен на акции или признака направления фондового рынка (т. Е. Положительного или отрицательного).

RNN полезен для автономного автомобиля, поскольку он может избежать автомобильной аварии, предвидя траекторию движения автомобиля.

RNN is widely used in text analysis, image captioning, sentiment analysis and machine translation. For example, one can use a movie review to understand the feeling the spectator perceived after watching the movie. Automating this task is very useful when the movie company does not have enough time to review, label, consolidate and analyze the reviews. The machine can do the job with a higher level of accuracy.

Limitations of RNN

In theory, RNN is supposed to carry the information up to time . However, it is quite challenging to propagate all this information when the time step is too long. When a network has too many deep layers, it becomes untrainable. This problem is called: vanishing gradient problem. If you remember, the neural network updates the weight using the gradient descent algorithm. The gradients grow smaller when the network progress down to lower layers.

In conclusion, the gradients stay constant meaning there is no space for improvement. The model learns from a change in the gradient; this change affects the network’s output. However, if the difference in the gradient is too small (i.e., the weights change a little), the network can’t learn anything and so the output. Therefore, a network facing a vanishing gradient problem cannot converge toward a good solution.

Improvement LSTM

To overcome the potential issue of vanishing gradient faced by RNN, three researchers, Hochreiter, Schmidhuber and Bengio improved the RNN with an architecture called Long Short-Term Memory (LSTM). In brief, LSMT provides to the network relevant past information to more recent time. The machine uses a better architecture to select and carry information back to later time.

LSTM architecture is available in TensorFlow, tf.contrib.rnn.LSTMCell. LSTM is out of the scope of the tutorial. You can refer to the official documentation for further information

RNN in time series

In this tutorial, you will use an RNN with time series data. Time series are dependent to previous time which means past values includes relevant information that the network can learn from. The idea behind time series prediction is to estimate the future value of a series, let’s say, stock price, temperature, GDP and so on.

The data preparation for RNN and time series can be a little bit tricky. First of all, the objective is to predict the next value of the series, meaning, you will use the past information to estimate the value at t + 1. The label is equal to the input sequence and shifted one period ahead. Secondly, the number of input is set to 1, i.e., one observation per time. Lastly, the time step is equal to the sequence of the numerical value. For instance, if you set the time step to 10, the input sequence will return ten consecutive times.

Look at the graph below, we have represented the time series data on the left and a fictive input sequence on the right. You create a function to return a dataset with random value for each day from January 2001 to December 2016

# To plot pretty figures
%matplotlib inline
import matplotlib
import matplotlib.pyplot as plt
import pandas as pd
def create_ts(start = '2001', n = 201, freq = 'M'):
    rng = pd.date_range(start=start, periods=n, freq=freq)
    ts = pd.Series(np.random.uniform(-18, 18, size=len(rng)), rng).cumsum()
    return ts
ts= create_ts(start = '2001', n = 192, freq = 'M')
ts.tail(5)

Вывод

2016-08-31    -93.459631
2016-09-30    -95.264791
2016-10-31    -95.551935
2016-11-30   -105.879611
2016-12-31   -123.729319
Freq: M, dtype: float64

ts = create_ts(start = '2001', n = 222)

# Left
plt.figure(figsize=(11,4))
plt.subplot(121)
plt.plot(ts.index, ts)
plt.plot(ts.index[90:100], ts[90:100], "b-", linewidth=3, label="A training instance")
plt.title("A time series (generated)", fontsize=14)

# Right
plt.subplot(122)
plt.title("A training instance", fontsize=14)
plt. plot(ts.index[90:100], ts[90:100], "b-", markersize=8, label="instance")
plt.plot(ts.index[91:101], ts[91:101], "bo", markersize=10, label="target", markerfacecolor='red')
plt.legend(loc="upper left")
plt.xlabel("Time")

plt.show()

Правая часть графика показывает все серии. Он начинается с 2001 года и заканчивается в 2019 году. Нет смысла подавать все данные в сети, вместо этого вам нужно создать пакет данных с длиной, равной временному шагу. Эта партия будет переменной X Переменная Y такая же, как X, но смещена на один период (т. Е. Вы хотите прогнозировать t + 1).

Оба вектора имеют одинаковую длину. Вы можете увидеть это в правой части приведенного выше графика. Линия представляет десять значений ввода X, а красные точки — десять значений метки Y. Обратите внимание, что метка начинается на один период раньше X и заканчивается на один период позже.

Создайте RNN для прогнозирования временных рядов в TensorFlow

Теперь пришло время построить свой первый RNN, чтобы предсказать серию выше. Вам необходимо указать некоторые гиперпараметры (параметры модели, т. Е. Количество нейронов и т. Д.) Для модели:

Количество входов: 1
Шаг по времени (окна во временных рядах): 10
Количество нейронов: 120
Количество выходов: 1

Ваша сеть будет учиться из последовательности 10 дней и содержит 120 повторяющихся нейронов. Вы кормите модель одним вводом, т. Е. Одним днем. Не стесняйтесь изменять значения, чтобы увидеть, улучшилась ли модель.

Прежде чем строить модель, вам нужно разделить набор данных на набор поездов и набор тестов. Полный набор данных имеет 222 точки данных; вы будете использовать первые 201 балл для обучения модели и последние 21 балл для тестирования вашей модели.

После того, как вы определили поезд и набор тестов, вам нужно создать объект, содержащий партии. В этих пакетах у вас есть значения X и Y. Помните, что значения X отстают на один период. Поэтому вы используете первые 200 наблюдений, и шаг по времени равен 10. Объект X_batches должен содержать 20 пакетов размером 10 * 1. Форма y_batches имеет ту же форму, что и объект X_batches, но на один период впереди.

Шаг 1) Создай поезд и проверь

Прежде всего, вы конвертируете серию в массив numpy; затем вы определяете окна (т. е. количество времени, в течение которого сеть будет учиться), количество входов, выходов и размер набора поездов.

series = np.array(ts)
n_windows = 20   
n_input =  1
n_output = 1
size_train = 201

После этого вы просто разделяете массив на два набора данных.

## Split data
train = series[:size_train]
test = series[size_train:]
print(train.shape, test.shape)
(201,) (21,)

Шаг 2) Создайте функцию для возврата X_batches и y_batches

Чтобы сделать это проще, вы можете создать функцию, которая возвращает два разных массива, один для X_batches и один для y_batches.

Давайте напишем функцию для построения пакетов.

Обратите внимание, что пакеты X отстают на один период (мы берем значение t-1). Вывод функции должен иметь три измерения. Первые измерения равны количеству пакетов, вторые — размеру окон, а последние — количеству входных данных.

Самое сложное — правильно выбрать точки данных. Для точек данных X вы выбираете наблюдения от t = 1 до t = 200, в то время как для точки данных Y вы возвращаете наблюдения от t = 2 до 201. Как только у вас есть правильные точки данных, их легко изменить сериал.

Чтобы построить объект с пакетами, вам нужно разделить набор данных на десять пакетов равной длины (т. Е. 20). Вы можете использовать метод изменения формы и передать -1, чтобы серия была похожа на размер пакета. Значение 20 — это количество наблюдений на партию, а 1 — количество входных данных.

Вы должны сделать тот же шаг, но для метки.

Обратите внимание, что вам нужно сместить данные на количество времени, которое вы хотите прогнозировать. Например, если вы хотите предсказать одно время вперед, то вы сдвигаете ряд на 1. Если вы хотите прогнозировать два дня, то сдвиньте данные на 2.

x_data = train[:size_train-1]: Select all the training instance minus one day
X_batches = x_data.reshape(-1, windows, input): create the right shape for the batch e.g (10, 20, 1)
def create_batches(df, windows, input, output):
    ## Create X         
        x_data = train[:size_train-1] # Select the data
        X_batches = x_data.reshape(-1, windows, input)  # Reshape the data 
    ## Create y
        y_data = train[n_output:size_train]
        y_batches = y_data.reshape(-1, windows, output)
        return X_batches, y_batches

Теперь, когда функция определена, вы можете вызвать ее для создания пакетов.

X_batches, y_batches = create_batches(df = train,
                                      windows = n_windows,
                                      input = n_input,
                                      output = n_output)

Вы можете распечатать форму, чтобы убедиться в правильности размеров.

print(X_batches.shape, y_batches.shape)
(10, 20, 1) (10, 20, 1)

Вам нужно создать тестовый набор только с одной партией данных и 20 наблюдениями.

Обратите внимание, что вы прогнозируете дни за днями, это означает, что второе прогнозируемое значение будет основано на истинном значении первого дня (t + 1) тестового набора данных. На самом деле, истинное значение будет известно.

Если вы хотите прогнозировать t + 2 (т.е. на два дня вперед), вам нужно использовать прогнозируемое значение t + 1; если вы собираетесь прогнозировать t + 3 (на три дня вперед), вам нужно использовать прогнозные значения t + 1 и t + 2. Имеет смысл, что трудно точно предсказать t + n дней вперед.

X_test, y_test = create_batches(df = test, windows = 20,input = 1, output = 1)
print(X_test.shape, y_test.shape)
(10, 20, 1) (10, 20, 1)

Хорошо, ваш размер пакета готов, вы можете построить архитектуру RNN. Помните, у вас есть 120 повторяющихся нейронов.

Шаг 3) Постройте модель

Чтобы создать модель, вам нужно определить три части:

Переменная с тензорами
РНН
Потеря и оптимизация

Шаг 3. 1) Переменные

Вам необходимо указать переменные X и Y с соответствующей формой. Этот шаг тривиален. Тензор имеет ту же размерность, что и объекты X_batches и y_batches.

Например, тензор X является заполнителем (обратитесь к руководству Введение в Tensorflow, чтобы освежить свой взгляд на объявление переменных), имеет три измерения:

Примечание: размер партии
n_windows: длина окон. то есть, сколько раз модель смотрит назад
n_input: номер входа

Результат:

tf.placeholder(tf.float32, [None, n_windows, n_input])

## 1. Construct the tensors
X = tf.placeholder(tf.float32, [None, n_windows, n_input])   
y = tf.placeholder(tf.float32, [None, n_windows, n_output])

Шаг 3.2) Создание RNN

Во второй части вам необходимо определить архитектуру сети. Как и прежде, вы используете объект BasicRNNCell и dynamic_rnn из оценки TensorFlow.

## 2. create the model
basic_cell = tf. contrib.rnn.BasicRNNCell(num_units=r_neuron, activation=tf.nn.relu)   
rnn_output, states = tf.nn.dynamic_rnn(basic_cell, X, dtype=tf.float32)

Следующая часть немного сложнее, но позволяет ускорить вычисления. Вам необходимо преобразовать вывод прогона в плотный слой, а затем снова преобразовать его, чтобы иметь то же измерение, что и вход.

stacked_rnn_output = tf.reshape(rnn_output, [-1, r_neuron])          
stacked_outputs = tf.layers.dense(stacked_rnn_output, n_output)       
outputs = tf.reshape(stacked_outputs, [-1, n_windows, n_output])

Шаг 3.3) Создание потерь и оптимизация

Оптимизация модели зависит от задачи, которую вы выполняете. В предыдущем уроке по CNN ваша цель состояла в классификации изображений, в этом уроке цель немного другая. Вас просят сделать прогноз по непрерывной переменной, сравниваемой с классом.

Это различие важно, потому что оно изменит проблему оптимизации. Задача оптимизации для непрерывной переменной состоит в минимизации среднеквадратичной ошибки. Чтобы построить эти метрики в TF, вы можете использовать:

tf.reduce_sum (tf.square (выходные данные — y))

Остальная часть кода такая же, как и раньше; Вы используете оптимизатор Adam, чтобы уменьшить потери (т. е. MSE):

tf.train.AdamOptimizer (learning_rate = learning_rate)
optimizer.minimize (убыток)

Вот и все, вы можете собрать все вместе, и ваша модель готова к тренировкам.

tf.reset_default_graph()
r_neuron = 120    

## 1. Construct the tensors
X = tf.placeholder(tf.float32, [None, n_windows, n_input])   
y = tf.placeholder(tf.float32, [None, n_windows, n_output])

## 2. create the model
basic_cell = tf.contrib.rnn.BasicRNNCell(num_units=r_neuron, activation=tf.nn.relu)   
rnn_output, states = tf.nn.dynamic_rnn(basic_cell, X, dtype=tf.float32)              

stacked_rnn_output = tf.reshape(rnn_output, [-1, r_neuron])          
stacked_outputs = tf.layers.dense(stacked_rnn_output, n_output)       
outputs = tf.reshape(stacked_outputs, [-1, n_windows, n_output])   

## 3.  Loss + optimization
learning_rate = 0.001  
 
loss = tf.reduce_sum(tf.square(outputs - y))    
optimizer = tf.train.AdamOptimizer(learning_rate=learning_rate)         
training_op = optimizer.minimize(loss)                                          

init = tf.global_variables_initializer()

Вы будете тренировать модель, используя 1500 эпох, и печатать потери каждые 150 итераций. После того, как модель обучена, вы оцениваете модель на тестовом наборе и создаете объект, содержащий прогнозы.

iteration = 1500 

with tf.Session() as sess:
    init.run()
    for iters in range(iteration):
        sess.run(training_op, feed_dict={X: X_batches, y: y_batches})
        if iters % 150 == 0:
            mse = loss.eval(feed_dict={X: X_batches, y: y_batches})
            print(iters, "\tMSE:", mse)
    
    y_pred = sess.run(outputs, feed_dict={X: X_test})
0 	MSE: 502893.34
150 	MSE: 13839.129
300 	MSE: 3964.835
450 	MSE: 2619.885
600 	MSE: 2418.772
750 	MSE: 2110.5923
900 	MSE: 1887. 9644
1050 	MSE: 1747.1377
1200 	MSE: 1556.3398
1350 	MSE: 1384.6113

Наконец, вы можете построить фактическое значение ряда с прогнозируемым значением. Если ваша модель исправлена, предсказанные значения должны быть помещены поверх фактических значений.

Как видите, модель имеет место для улучшения. Это зависит от вас, чтобы изменить гиперпараметры, такие как окна, размер пакета числа повторяющихся нейронов.

plt.title("Forecast vs Actual", fontsize=14)
plt.plot(pd.Series(np.ravel(y_test)), "bo", markersize=8, label="Actual", color='green')
plt.plot(pd.Series(np.ravel(y_pred)), "r.", markersize=8, label="Forecast", color='red')
plt.legend(loc="lower left")
plt.xlabel("Time")

plt.show()

Резюме

Рекуррентная нейронная сеть — это надежная архитектура для анализа временных рядов или анализа текста. Результатом предыдущего состояния является обратная связь для сохранения памяти сети во времени или последовательности слов.

В TensorFlow вы можете использовать следующие коды для обучения текущей нейронной сети для временных рядов:

Параметры модели

n_windows = 20   
n_input =  1
n_output = 1
size_train = 201

Определите модель

X = tf. placeholder(tf.float32, [None, n_windows, n_input])   
y = tf.placeholder(tf.float32, [None, n_windows, n_output])

basic_cell = tf.contrib.rnn.BasicRNNCell(num_units=r_neuron, activation=tf.nn.relu)   
rnn_output, states = tf.nn.dynamic_rnn(basic_cell, X, dtype=tf.float32)              

stacked_rnn_output = tf.reshape(rnn_output, [-1, r_neuron])          
stacked_outputs = tf.layers.dense(stacked_rnn_output, n_output)       
outputs = tf.reshape(stacked_outputs, [-1, n_windows, n_output])

Построить оптимизацию

learning_rate = 0.001  
 
loss = tf.reduce_sum(tf.square(outputs - y))    
optimizer = tf.train.AdamOptimizer(learning_rate=learning_rate)         
training_op = optimizer.minimize(loss)

Тренируй модель

init = tf.global_variables_initializer() 
iteration = 1500 

with tf.Session() as sess:
    init.run()
    for iters in range(iteration):
        sess.run(training_op, feed_dict={X: X_batches, y: y_batches})
        if iters % 150 == 0:
            mse = loss. eval(feed_dict={X: X_batches, y: y_batches})
            print(iters, "\tMSE:", mse)
    
    y_pred = sess.run(outputs, feed_dict={X: X_test})

Multitran dictionary

English-Russian forum EnglishGermanFrenchSpanishItalianDutchEstonianLatvianAfrikaansEsperantoKalmyk

⚡ Forum rules

✎ New thread | Private message

Name

Date

105

1241

OFF: Поздравляю всех ИП на патенте | 1 2 3 all

Svetozar

3.02.2022

8:21

Within the assay range with the control matrix

AnnaBel123

02.2022

1:38

сделана отдельная подписка

VictorMashkovtsev

4.02.2022

9:56

873

15606

Ошибки в словаре | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 all

4uzhoj

23.02.2021