Дослідник нейромереж — про півсотлітню історію штучного інтелекту, свідомість АІ та розвиток людства

Олександр Різник — доктор технічних наук, завідувач відділу нейротехнологій Інституту проблем математичних машин і систем НАН України і піонер нейромереж, якими займається ще з початку 60-х років минулого століття.

Олександр — спец з гідроакустики. У наукових колах світового масштабу він відомий завдяки глибоким дослідженням у темі комунікації дельфінів та дешифрування їхньої мови. У Радянському Союзі працював в «поштовому ящику», секретному підприємстві оборонного напрямку, де йому навіть доводилось шукати під кригою північного полюсу субмарини Сполучених Штатів. Паралельно він займався нейротехнологіями та штучним інтелектом, а в очолюваній ним лабораторії з гідробіоніки було створено перші в Європі експериментальні перцептрони.

У голові вченого — півстолітня картина розвитку нейронних мереж, штучного інтелекту та суперкомп’ютерів. Чому в розвитку нейромереж немає особливих результатів ще з минулого століття, а захоплення темою спаде в найближчий час, чи може штучний інтелект мати свідомість та як комп’ютери вже керують людьми — Олександр Різник розповів в інтерв’ю для DOU.

Надійні vs безнадійні

— Як ви вперше познайомились з нейронними мережами?

На початку 60-х в пресі почали з’являтись публікації про машини, які здатні до самонавчання. Я цим зацікавився. Згодом спало на думку, чому б не використати ці машини в гідроакустиці та як це зробити. Протягом 1969-71 рр. в лабораторії гідробіоніки Київського НДІ гідроприладів, яку я очолював, було створено перші в Європі експериментальні перцептрони АДАМ (адаптивні динамічні асоціативні моделі), призначені для досліджень з навчання розпізнаванню складних звукових сигналів. Один з них — Адам-А — мав 16 асоціативних елементів (нейронів), побудованих з використанням електрохімічних елементів пам’яті (мемісторів). Інший — Адам-Д представляв собою перший в світі повністю цифровий нейроком’ютер, що складався з 512 асоціативних елементів, кожен з яких мав 8 входів. Завдяки гнучкій системі комутації ця модель дозволяла формувати складні багатошарові нейронні мережі. Для вводу звукових сигналів використовувалась електронна модель внутрішнього вуха людини, яка забезпечувала перетворення звуків у послідовності 64-мірних векторів, що відтворювали реакції на вході слухового нерву.

В 60-х ми вже систематично працювали в цьому напрямку. Вважаю, що ми тоді все ж змогли наздогнати американців. Але у владної верхівки, яка керувала грошовими потоками, була інша думка щодо суті нашої діяльності. Вона заморозила роботу. Правда, ця тенденція була по всьому світу. Навіть у США були припинені великі дослідження по нейрокомп’ютерах. Захоплення цією темою згасло вперше. Усього таких загасань було два.

— З чим це було пов’язано вперше?

Десь з кінця 60-х й 15 років по тому роботи в напрямку нейронних мереж та штучного інтелекту вважались безперспективними. Фундатор штучного інтелекту Марвін Мінський у співавторстві з Сеймуром Папертом в 1969 році написав книжку під назвою «Перцептрони». Перцептрон — це назва першого прототипу нейромережі, яка була запропонована американським дослідником Френком Розенблатом в 1957 році. Це була перша нейромережа, яка здатна навчатись будь-чому. Перцепція — штука, яка може пристосовуватись. У Розенблата нейрокомп’ютер був заснований на знанні того, як побудована нервова клітина у людини. Він вважав, що за таким принципом можна конструювати обчислювальні машини. Їх застосовували для розпізнавання звуків, зображень та іншого. Лише в Києві тоді було близько п’яти організацій, в яких розробники створювали моделі пристроїв для розпізнавання чого-небудь. Наша група була найсильніша.

— Чому тоді згодом почався занепад?

Марвін Мінський розчарувався в своїх дослідженнях, що спричинило довготривалий спад зацікавлення в цій тематиці. Ті, хто займався моделюванням біологічних процесів, нейронними мережами, мовою дельфінів, штучним інтелектом, потрапили під скорочення, як я, й залишились без роботи.

Не було розроблено математичних методів, які б пояснювали, чому перцептрон, що працює як нервова клітина, не здатен навчитись робити багато задач. Тобто не було математичної теорії, яка б могла довести, що це правильні методи. Дефіцит теоретичного обґрунтування дав можливість Мінському сказати, що насправді має все бути зовсім інакше.

Я був відсторонений від робіт приблизно на двадцять років. У 80-му році я перейшов до Інституту кібернетики. Тоді якраз створювався радянський суперкомп’ютер, під який зробили спеціальну лабораторію. Там займались керуванням, системи в якій було близько 500 різних обчислень, і всі вони повинні були працювати в унісон, як єдиний мозок. Мене якраз туди запросили цим займатись.

— Це вже було ближче до початку нового життя в галузі. Як ви сприйняли відродження після одного покоління застою?

Так. Інформація про відродження мене вразила. Це було пов’язано з американським вченим Джоном Хопфілдом. Він розробляв способи захисту очей солдатів, яких уражав промінь з лазерної зброї. Ця тема була популярною, оскільки спінове скло представляло собою квантову систему, що мала кілька стабільних станів і миттєво змінювала прозорість, якщо промінь лазеру діставав деякої її ділянки. Геніальним було дійти висновку, що пов’язані між собою нейрони діють як молекули спінового скла, а їхні стабільні стани є аналогом асоціативної пам’яті мозку.

Оскільки Хопфілд був непоганим математиком, він знайшов рівняння, яке прописує поведінку групи цих нейронів. Це було відкриття, яке повернуло увагу світової спільноти до нейронних мереж, які тепер видавались не такими даремними, як про це свого часу казав Мінський. Він зумів описати колективну поведінку великої кількості нейронів: як в них формується пам’ять, яким чином в цій пам’яті залишається різна інформація та як її відтворювати. Якщо нейронна мережа знаходить щось схоже на те, що вона вже пам’ятала, у неї миттєво відновлюється інформація по всіх каналах. Це і є асоціація. Коли ми згадуємо щось за певними аналогіями, у нас відтворюється весь образ. Хопфілд зміг весь цей механізм описати, чим повернув довіру до нейронних мереж — почався нейрокомп’ютерний бум.

До Радянського Союзу він дійшов десь під кінець 80-х років. У 1989 році я поїхав у тодішній Ленінград на всесоюзну конференцію нейронників, які ще залишилися в галузі. Ми обмінювались думками й міркували, що робити з програмами зі створення нейрокомп’ютерів, бо в Штатах вже кипіла робота й виділяли мільярдне фінансування. За важливістю вона наближався до проекту «Мангеттен» зі створення атомної бомби. Тоді вважали, що нейрокомп’ютери, які здатні до навчання, можуть вирішити проблему нестачі програмістів.

— Як далі розвивалась тема нейронних мереж?

Зі свого досвіду скажу, що захоплення нейромережам — це періодичний процес, який відбувається хвилями. В середині 90-х стало зрозуміло, що ми можемо робити непогані нейрокомп’ютери. Але надії на те, що вони здатні вирішувати завдання на рівні людей, були перебільшені, адже вони навчаються не так добре й ефективно, як всі очікували. Почалась друга хвиля спаду інтересу до цієї галузі й розмови, мовляв, нейромережі — це невдала ідея, яка потребує багато грошей, а результат — не такий, як треба.

Лише в 2007 році група дослідників з Канади зробила прорив, застосувавши програму з дуже великою кількістю нейронів. Вона показувала рекордні результати за якістю запам’ятовування та розпізнавання даних. З того часу почалась нова ера — deep learning.

1983 р. Інститут кібернетики НАН України. Проект багатопроцесорного суперкомп’ютера ЄС-1766. Бесіда з головним конструктором проекту, доктором технічних наук С. Б. Погребинським

Відсутність результатів та взаємодія зі Всесвітом

— Ви читаєте зарубіжну літературу на тему штучного інтелекту та нейронних мереж, слідкуєте за останніми тенденціями. Що з останніх досягнень в цій сфері вас вразило?

Відсутність результатів.

— А проекція облич на інших людей, «творчість» нейромереж та багато іншого?

Все це було і в 90-х роках у перших нейрокомп’ютерах. Не можна сказати, що сьогодні це принципові досягнення. Робите сильніше фінансове вливання й збільшуєте потужності — вирішуєте більше завдань. Проблема в іншому. Має бути інший принцип роботи з цими даними. З глибокими нейронними мережами проблема в тому, що зараз здешевшав обчислювальний ресурс — обсяг пам’яті на комп’ютерах за останні десять років виріс у десятки разів. Все те, що було недоступним взагалі десять років тому, зараз є у вашому мобільному телефоні. Але не з’являється нова якість.

З великими даними щось відбувається не так, як ми собі уявляли. Наші моделі, методи й уся наука базується на антропному принципі. Вважається, що всі наші дії — це правильно, в цьому напрямку треба рухатись, і тільки це є добре. Решта — нікому непотрібно. У Радянському Союзі вимальовувалась теза, що нам не потрібно чекати милості від природи, ми маємо підкоряти, захоплювати, завойовувати, наче ми завжди праві. Але виявилось, що жива природа навколо нас стає все слабшою тоді, як ми є «праві». Всі техногенні катастрофи — результат нашої діяльності. Люди часто не враховують, що мають працювати в межах, які дозволяє природа.

Сьогодні суспільство оперує набагато більшою кількістю інформації, ніж реально може осягнути людина. Ніхто не знає усього, ми знаємо лише якусь частину від того, що потрібно знати. Наприклад, мобільний телефон — забавка, яка коштує певну кількість грошей. Але насправді — це досвід тисяч людей й матеріалізована наука. Люди залежні від оточення й вважають себе вершиною всього й такими, яким повинно усе підкорятись. А ось звідки взялось це життя, як воно функціонує й чому?

— Ви скептик?

Я не дивлюсь скептично. Я дивлюсь активно. Моє завдання — зрозуміти, що відбувається в нейронних мережах: чому вони діють саме так, чому в нас такі результати, а не інші. Багато людей приймають будь-який результат, наче це добре й так повинно бути. А коли повторюють те саме й отримують інший результат, то кажуть, мовляв, яка прикрість.

— Чого нейронні мережі не зможуть зробити найближчим часом?

Відтворити реальний людський інтелект, тобто свідомість. Є певні обмеження. У 1945-1946 роках Норберт Вінер придумав назву «кібернетика». За його означенням — це управління технічними, діалогічними та соціальними системами. Цей підхід дуже був схожий на загальну теорію систем, яка розроблялась багатьма вченими. Вони передусім приділяли велику увагу процесам управління, зворотного зв’язку. На жаль, послідовники кібернетики звернули увагу лише на одну сторону — методи обчислень. Ви маєте передбачити результати свого управління. Інакше можуть бути погані наслідки. Проблема в тому, що цей зворотній зв’язок, з яким ми пов’язані, ставить нас в залежність від оточення. А наше оточення яке? Ми є маленькою частинкою Всесвіту.

— Що ви маєте на увазі?

Те, що фундаментальні поняття, на яких ми базуємось, є зовсім не такими, як вони в природі виглядають. Наприклад поняття простору-часу. Вони виникло завдяки Айнштайну та іншим науковцям ХХ століття. Виявилось, що ми існуємо не в такому тривимірному світі, який бачимо. Є ще час. А можливо, й інші виміри, які поки не можемо осягнути. Все, що відбувається й всі наші дії, — елемент певного безперервного процесу. А отже, взаємодіючи з усім, маємо розраховувати, як ми впливаємо на те, що нас оточує. Це й про атмосферу, зміну погоди, катаклізми, клімат, озонові діри та інше. В той же час ми маємо доступ до величезної бази даних, наприклад, Google, адже тепер не треба шукати енциклопедію Брокгауза і Єфрона в бібліотеці, бо у вас набагато потужніша є в Інтернеті — це майже безмежний досвід.

— Згадалось, у фільмі «Людина-павук» була фраза: «Чим більша сила, тим більше відповідальність».

Саме так. Вона, мабуть, повинна проектуватись на гармонію у світі. Візьмемо навіть наш парламент. Думаєте, там щось відбувається з глобального кута зору й на перспективу людства?

Ми всі є членами дуже потужної системи, яку не розуміємо. Тому ми схильні підкорятись тим, хто представляє цю загальну систему — держава, корпорація тощо. Ми всі стаємо рабами цієї системи. Це є головна загроза сьогоднішньої ситуації. Віра в те, що штучний інтелект щось зробить. Нічого він не зробить. Він може повторювати наш власний інтелект, дуже непогано виконувати деякі завдання, дещо робить гірше, але в нього немає цілісного сприйняття і можливості робити щось своє.

Що про себе думає AI та природа інтелекту

— Що ви думаєте про робота Софію?

Чудовий робот. Вона дуже добре може імітувати людську поведінку, непогано розпізнає звуки мови, можливо, вона навіть розпізнає обличчя.

Все залежить від того, що ми називаємо інтелектом. Якщо інтелект — це вміння імітувати людську діяльність, тоді так, це штучний інтелект. В дечому він навіть кращий за нас. Але є одна річ. Що цей інтелект буде казати про самого себе й ким себе вважатиме, якщо ми наділимо його свідомістю?

— І ким він може себе вважати?

А це проблема. Усе, що ми робимо, має бути прийнятне для світу. Інакше ми не виживемо. Якщо створимо машину, яка так чинитиме й так житиме, тоді це чудово. Можливо, вона претендуватиме на безсмертя. Це теж непросте питання.

Тривалий час здавалось, що людина створює ефективний інструмент для обробки інтелектуальної інформації. Зараз потужність комп’ютерів і всієї галузі, зокрема з появою хмарних обчислень, вийшли на той рівень, що людина не здатна контролювати зміст діяльності, яку виконують комп’ютери. Системи штучного інтелекту можуть непогано виконувати дії, що виконує людина. Але вони не мають мети.

Ми, люди, існуємо, щоб бути більш досконалими. У нас є конкуренція, ми намагаємось бути кращими. Думаю, ця здатність поступово переходить від розробників до технічних пристроїв, яких ми наділяємо інтелектом. Подальший розвиток техніки складає враження, що не люди планують розвиток комп’ютерів, а комп’ютери роблять це самі. Тобто світ перейшов в стадію, коли інтелект від людини переходить до матеріального комп’ютера. Ці комп’ютери вдосконалюються, використовуючи людство як інструмент, що дозволяє їм розвиватись далі.

Те, що Софія та інші антропоподібні комп’ютери ззовні нагадують людину, не означає, що вони думають, як людина. А в них в голові вже сидять досить потужні комп’ютери. Ми дуже залежні від них, тому вимушені їх виробляти. Незабаром настане час, думаю, за одне покоління, коли виробництво комп’ютерів відбуватиметься зовсім без людей. І навіть проектувати нові моделі теж будуть самі машини. Що ця автоматизована індустрія матиме на меті й до чого рухатиметься — гадки не маю.

— Про що це говорить, на вашу думку?

Думаю, поступово ми самі стаємо рабами свого інтелекту. Наші гібридні війни — це якраз продукт втрати контролю. Коли ніякі моральні принципи вже не є перепоною, щоб робити будь-що.

— Ви написали статтю «Про природу інтелекту». Що ви вважаєте інтелектом?

Це надто складна річ для однозначного визначення. Потоки нейронних імпульсів у мозку перетворюються на звуки мови, зображення. Ми їх сприймаємо відповідними органами чуття. Всі ми разом обмінюємось між собою інформацією. Фактично кожен з нас є такою собі клітиною, яка взаємодіє з іншими такими ж клітинами, й таким чином спільною роботою всіх мізків щось створюється. Це ми завантажуємо у віртуальна реальність — наше досвід, наше життя. Все це разом утворює якусь велику спільноту та є втіленням того інтелекту.

А взагалі не знаю, навіщо природі було вигадувати життя. Невдовзі щось точно має відбутись.

— Що ви маєте на увазі?

Через простір-час протікає нескінченний потік енергії. У ньому можуть виникати турбулентності, які ми сприймаємо як матеріальний світ. Тобто ми самі. Цей процес призвів до утворення планет, появи життя, інтелекту й нарешті — комп’ютеризованого штучного інтелекту. Зараз іде процес передачі інформації від біологічного носія — людей, до технічного — комп’ютерів. Ми спостерігаємо за цим процесом, але ми самі є продуктом цього процесу. Ми не можемо ззовні подивитись на процес. Та й не маємо цілісної картини світу. Як воно буде продовжуватись — ніхто не знає.

А може, ми визнаємо, що еволюція людини закінчилась, весь наш розум віддамо комп’ютеру, створимо супермегакомп’ютер, який сам відтворюється, й нехай собі існує. А може, з’явиться якась така машина, яка захоче позбутися людей, бо вони їй здаватимуться загрозою свого існування. Все може бути.

Що саме буде — сказати неможливо. Але існує вірогідність, що протягом найближчих 1000 років Земля неодмінно зіткнеться з якимось астероїдом. Маск хоче переселити людей на Марс. Але Марс нічим не кращий.

Словом, ми не знаємо, чим закінчиться той Всесвіт, в якому ми існуємо. Завдяки зокрема Гокінгу та іншим науковцям, ми знаємо про це набагато більше. Проте я дивлюся, які наші можливості зараз, й можу сказати, що ми починаємо гратися в дуже ризиковані ігри. Атомної зброї достатньо для того, щоб зникло все живе з нашої планети.

Працювати день-ніч протягом кількох років та нові дисципліни

— Ви випали з теми на двадцять років. Минуло ціле покоління. Як це — повертатись в тему через стільки років?

По суті, нам довелося навчатися заново. Десь у 1990-му році я був на конференції, де міркували, мовляв, що робити з нейрокомп’ютерами. Увесь світ тоді почав грандіозні програми у цій темі, а в Союзі так і не розібрались, з чим їдять нейрокомп’ютери.

На щастя, на цій конференції був учасник з США. Я у нього випросив роботи з конференції в Сан-Дієго 1986 року. Я зробив копії, й ми всім відділом їх вивчали, щоб надолужити те, що втратили. Десь до 1995 року ми це все освоїли. Я нарешті закінчив докторську дисертацію, яка була готова ще з початку 70-х років. Коли у тебе все це є і тебе викидають... Можете уявити, як це пережити. Не підберу слова. Ми були на передку і одразу стали позаду. Наче повернулись з того світу.

Як перенавчатись? Берете літературу й працюєте день-ніч протягом кількох років. Так і наздоганяли.

Пам’ятаю, читав студентам КПІ лекції й відчував себе динозавром. Це цікаво — бачити всю цю історію й сприймати її інакше, ніж свіжі люди, які приходять до вже готового.

Важливо відвідувати різні наукові конференції. Коли туди потрапляєш, то відчуваєш тренди, думки, вектори розвитку. Їх багато відбувається у світі. Але в нас немає грошей туди їздити. Іноді когось вдається направити з якось роботою. Але ми маємо мало контактів, щоб працювати в тому середовищі.

Пригадую, як був на конференції у Вашингтоні в 1999 році. І це лише завдяки тому, що ми розробляли нейрокомп’ютер для однієї компанії, яка взяла витрати на себе. Там я виступив, отримав навіть приз за найкращу доповідь. Це і всі мої контакти. Добре, що мої співробітники зараз частіше бувають на конференціях. Якось намагаємось підтримувати рівень. Але цього, звісно, недостатньо.

Словом, час не стоїть на місці. Зараз мені доводиться освоювати дисципліни, які раніше, здавалось, не мали відношення до якихось інженерних справ.

— Наприклад?

Як ми функціонуємо, де ми живемо, що таке думки, що таке інтелект, кого вважати живим та інше. Зараз читаю «Познание сложного» Іллі Пригожина, лауреата Нобелівської премії. Це про те, чим я зараз займаюсь — інтелект та інше. Там цілий напрямок так званих неврівноважених систем.

На полиці в мене айнштайнівський збірник фундаментальних основ, зокрема теорії відносності, «Фізика і філософія. Частина і ціле» Гейзенберга — це один з фундаторів квантової теорії, теж лауреат Нобелівської премії. Інженерні думки сьогодні надто поверхові, тому змушений знайомитись з іншою сферою та іншими думками, щоб глибше подивитись на те, чим я займався останні років тридцять. Проблеми треба вивчати глибоко, бо рухаємось ми далеко, правда, самі не знаємо, куди.

2004 р. Відділ нейротехнологій Інституту проблем математичних машин і систем НАН України

Одна з головних рекомендацій — немає ніяких рекомендацій

— Чим пишаєтесь та за що шкода в своїй роботі?

Жаль, що нам крила врізали на початку 70-х років. Як по дельфінам, так і нейрокомп’ютерам. Мій колега, Олег Рогозовський, з яким я колись працював у одному відділі, переїхав до Німеччини. Там він написав книжку «Записки ящикового еврея», де йому добре вдалося змалювати атмосферу того часу й описати свої відчуття, коли нас закрили.

Основною проблемою з потужними нейромережам були методи їхнього навчання. Ми тоді підходили до так званого методу зворотного поширення, який був винайдений десь за кілька років — у 1975 році. Але не дійшли.

Дослідник на прізвище Вербос запропонував цей алгоритм, що вирішує ту проблему, над якою ми працювали. У мене була схожа ідея під кінець десятиліття. Правда, його роботу ніхто не помітив. Її зауважили лише за десять років, але на той час вже це перевинайшли. Весь цей поступ дуже складний. І є дуже багато паралельних робіт, непомічених, не підтриманих.

Я не можу сказати, що у мене є якісь великі досягнення. Є робота про дельфінів. Так, на неї досі посилаються багато американських вчених, хоч я написав її більш ніж два десятиліття тому. Ось пишатись чи не пишатись? Не знаю. У Сполучених Штатах я відомий лише по дельфінній тематиці — дельфінолог. Була навіть цікава історія, пов’язана з цим.

— Розкажіть.

Пригадую ситуацію на початку 70-х. Якось мені дають лист, що прийшов на моє ім’я із США. В адресі вказана назва нашої організації, її номер, номер поштової скриньки. А всі ці комбінації були засекречені. Мене питають, звідки я знаю цю людину. Я дивлюсь — Доктор Норіс, директор гавайського центру ВМС США. Вони займались тоді дельфінами. Доктор Норіс писав, що буде в Радянському Союзі й хотів би познайомитись зі мною та моєю лабораторією. Він був упевнений, що це працює дуже солідна фірма, якщо дослідження виконуються на такому рівні. До листа додав ще кілька своїх робіт. На жаль, так з ним і не побачився.

Я казав, що це відомий вчений, але мене періодично викликали на допити, вимагали пояснень, намагались завербувати в КДБ. Мені доводилось вигадувати різні версії, наче, я не здатен, не можу. Згодом мене полишили — сказали, що зрозуміли, як американці дізнались нашу адресу. Як вони це зробили, я досі не маю гадки.

— Ви працюєте в цій темі понад п’ятдесят років. Як, з вашої точки зору, виглядає розвиток галузі за півстоліття?

На початку в 60-х років обчислювальна техніка була одним з прикладних напрямків кібернетики. Весь наш Інститут кібернетики виріс на лабораторії, яка в нас була. Там створили одну з перших у Європі обчислювальних машин під керівництвом Лебедєва — «МЭСМ». Вона дуже примітивна на сьогодні, але головне — обчислювала автоматично.

Коли почав працювати з перцептронами, довелось читати великий пласт біологічної літератури, яка пов’язана з нервовою системою людини.

В 60-х роках, як мені здається, було дуже бурхливе наукове життя. Принаймні в напрямку кібернетики та обчислювальної техніки. Я бував кілька разів на рік на всесоюзних конференціях. Зараз бачу багато схожого на той період. Для молодих програмістів створюють конкурсні програми, видають гранти.

Все ж глибокого проникнення в цю дисципліну мало. Готуються непогані ремісники. Але це ремесло, науково-технічна діяльність — це зовсім інше. Це прикро. Якщо ми на рівні ремесла вписуємось у світовий потік, тоді у нас мало шансів займати провідні позиції в майбутньому.

Коли я працював, для нас взірцями були вчені світового рівня. У нас була мета — перегнати Штати, де в той час створювався перцептрон для розпізнавання звуків. Ми горіли своєю справою. Зараз я не бачу таких устремлінь у молодих. Можливо, я насправді просто їх не бачу. Але поки враження, що молоді люди не ставлять перед собою високу планку. Багато людей мають за мету лише створити красивий запис до свого портфоліо.

— Яку б дали пораду молодим розробникам на майбутнє?

Одна з головних рекомендацій — немає ніяких рекомендацій та надійних шляхів, а всі мейнстримні напрямки швидко вичерпуються.

Похожие статьи:
В подкасте пойдет речь о Big Data и консалтинге. В программе: Про во’IT’иПервая работаКонсалтинг и специализацияBIТворчество...
Компания Samsung случайно рассекретила свою новую серию бюджетным смартфонов Galaxy On, разместив на сайте информацию о моделях...
На правах рекламы Производственно-торговая компания Rubin представляет обновленную линейку телевизоров серии SE9 с новыми...
В обновленном исследовании приняли участие 73 школы и учебных центра, которые обучили 43 868 студентов в 24 городах...
Пора повышать или еще подождать? Как понять, вырос ли уже программист до сениора или еще нет? Если вырос — то как...
Яндекс.Метрика