Установка видеокарты на сервер супермикро

Обновлено: 07.07.2024

Есть новый быстрый современный сервер, который собирал Lee, на материнке Supermicro X9SCM-F. Встроенная видеокарта -- полное говно. не понимаю производителя, который упорно интегрирует дерьмовое видео в топовый серверные материнки. На сей раз в эту материнку опять встроено это говно под названием Matrox G200eW, которое гордо именуют Nuvoton -- в итоге интерфейс Server 2008 R2 тормозит на приемлемых разрешениях, если активировать все фичи 7-ки. Сервер будет использоваться в основном как терминальный сервер для работы в 1С v8.2.

Есть острая необходимость установить приличную современную видеокарту. Не в 3D игры рубиться, конечно :-), но чтобы интерфейс серверной винды работал с максимальной скоростью и отзывчивостью.
Какую посоветуете видеокарту PCI-E x8 или x4 взять?

В доке на материнку X9SCM-F сказано, что есть 2 слота PCI-Express 2.0 x8 и два слота PCI-Express 2.0 x4 on x8.

А ты точно уверен что Nuvoton WPCM450RA0BX = Matrox G200eW . А не G450 ?

Если было бы G450,дрова G200не удалось бы установить а у Lee это получилось успешно.

Не знаю, но в доке на материнку написано, что там именно Matrox G200eW.

Ну да. А терминальные клиенты, подключенные по HDMI, работают гораздо быстрее, чем подключенные по D-Sub. Это шутко такое? Что-то не воспринимается, к сожален ию. :-( Проблема-то не решена пока. Хуже. Жаль, что не воспринимается. Vlad все правильно написал.
Всякие темы, сглаживание шрифтов и визуальные рюшечки на терминале сильно увеличивают RDP трафик по сети. Отсюда и тормоза жуткие. Видеокарта не уменьшит трафик. Так понятно?
ЗЫ. Мы совершенно не коллеги.

Ерунда > Vlad все правильно написал.
> Всякие темы, сглаживание шрифтов и визуальные рюшечки на терминале сильно увеличивают RDP трафик по сети. Отсюда и тормоза жуткие. Видеокарта не уменьшит трафик. Так понятно?

У меня есть доступ к нескольким серверам (в разных офисах) -- работают с максимальными настройками в терминалах по 100 мбитной сетке -- и НИЧЕГО НЕ ТОРМОЗИТ!

В том числе и тот сервер, что Lee собирал в 2009 году мне -- отлично пашет. НО С ОТДЕЛЬНО УСТАНОВЛЕННОЙ мной ВИДЕОКАРТОЙ.

> ЗЫ. Мы совершенно не коллеги.
Абсолютно не коллеги! И что?

И не будет решена. Потому что ты копаешь не в том направлении

Перечитайте исх. текст, проблема вообще не в сервере Он открывает на клиентской машине под управлением "семерки" интерфейс сервера (а спрашивается ЗАЧЕМ) и у него возникают какие-то траблы с прорисовкой.

Ну и причем тут вообще сервер? У человека явно проблемы с топологией сети и настройкой работы клиента. Видеокарта тут вообще абсолютно не при чем.

> Он открывает на клиентской машине под управлением "семерки" интерфейс сервера (а спрашивается ЗАЧЕМ) и у него возникают какие-то траблы с прорисовкой.

Чего открываю? Ерунда какая-то написана.
Или с самого сервера с подключенной клавой, мышкой и монитором наблюдаем эти тормоза или в терминале. Vlad, ты вообще знаешь, что такое терминальный сервер на Windows Server 2008 R2?

> Ну и причем тут вообще сервер? У человека явно проблемы с топологией сети и настройкой работы клиента.

У меня с топологий сети ВООБЩЕ никаких проблем нет. Это проявлялось в разных офисах, на разных свитчах.

> Видеокарта тут вообще абсолютно не при чем.
Да что ты говоришь. Ссылку почитай выше.
Странно, да, если вместо использования старного Матраса 200-го установить нормальную дискретную видеокарту, то тормоза в терминалах начисто пропадают, как впрочем и на самом сервере.

Ты говорил у тебя друг в Штатах миллионами серверов ворочает, может быть он что то про IBM сможет сказать?

Если там *nix крутиться будет, то всё хорошо. Проблема-то вылезла только с Server 2008 R2 и терминальными сессиями.

> Ты говорил у тебя друг в Штатах миллионами серверов ворочает, может быть он что то про IBM сможет сказать?

Они сервера тысячами покупают. Но винду не используют принципиально. ОС у них стандартно и везде только SLES.

Не Смешите, а настраивайте правильно сервер Ну не используется, начиная с 2003 сервера видеокарта для терминальных клиентов.. Вообще.
Удалите вообще все драйвера с видео, поставьте ее как обычный вга карта. Логи посмотрите. А вот это дельный совет, сегодня вечером попробую Спасибо! Ээээ, ну почти насколько помню в 2008м может быть включена потдержка 3d-графики для терминальной сессии, что в свою очередь может потребовать потдержку оной на уровне видео-карты.
Вопрос нафига 3Д для 1С считаю риторическим ;-) Пройдись по настройкам сервера терминалов и проверь что там есть и что из этого нужно

Пардон, а что такого в интерфейса Win2008S, что не хватает встроенной графики?
Да и терминалам пофигу, какая графика у хоста.
Вы о чем, вообще?

Если хочется проапгрейдить Юрин сервер - обратись за консультацией к Юре. Думаю, он не откажет.

Не хватает. А это странно, да? Это не файловый сервер на FreeBSD/Linux, на котором ничего, кроме терминала не запускают. Это должен быть полноценный терминальный сервер, на котором максимально шустро работает интерфейс винды.

> Да и терминалам пофигу, какая графика у хоста. Вы о чем, вообще?

Вот когда попробуешь сам как работает интерфейс винды на 200-ом матрасе, тогда и пиши. А пока можешь копнуть интернет насчёт этой проблемы.

Терминалам по фигу? Ты вот сам попробуй сначала, а потом пиши. Интерфейс терминалов точно также тормозит. Один в один.

> Если хочется проапгрейдить Юрин сервер - обратись за консультацией к Юре. Думаю, он не откажет.

Я так и сделал. И что с того. Ну он просто удивится, скажет, не надо же тормозит, странно, а не должно. Проходили это уже один раз с ним -- в конце 2009 года. Уже скучно стало на эту тему общаться.

Вопрос был не в этом.

Посоветуйте видеокарту PCI-E x8 или x4 on x8, которая смогла бы полноценно тянуть интерфейс серверной винды.

Превращаем Windows Server 2008 в настольную ОС? Специально в серверных платформах видео и аудио драйвера вырезали, чтобы повысить надежность. Вы в обратную сторону собрались? для терминала вообще не нужна карта, тормоза точно не от неё Вот вот именно! Проблема появляется в терминале! Цитата Tonka (c):
Похожая ситуация.
Поднят терминальный сервер под 1С. ОС Windows 2008 R2 64-bit RUS. Сервер брался в Тринити, мать X8DTH-iF с Matrox G200eW на борту. Проблема появляется в терминале. У пользователей при разрешении 1024x768 в 1С плывут шрифты.
Clear Type не помогает.

Ставил ОС и дрова сам Lee. Версия дров Матраса: 1.2.5.0 от 18.01.2010.
Это самые свежие?

А кто такой Lee? ;-)))) Не важно _кто_ важно _как_ > Версия дров Матраса: 1.2.5.0 от 18.01.2010.
> Это самые свежие?
Помимо дров для видео, там еше куча всего. Достаточно не поставленного пака для чипсета чтобы сервак встал омаром.

Кто такой Lee? Человек из конфы, компания которого собирает серверы, в частности. Собирает качественно, справедливости ради сказать -- все провода в стяжках, всё аккуратно.

Мой случай с терминальными тормозами может быть не показателем. Если бы я FreeBSD гонял на нём -- цены не было бы этому серверу.

А что за пак для чипсета, подскажи, пожалуйста.

А чего Lee спрашивать-то? Идешь на сайт супермикро качаешь все последнее для этой матери, проверяешь на всяк случай что у производителя компонента нет более свежей версии и в перед обновлять: биос - inf и далее все остальное.

Если в локальной консоли все ок, все ок будет и с терминальными сессиями.

странный трабл у нас вот на терминальнике нет видеокарты, но работает нормально.
Может тупо её выключить, если она как-то влияет.

Я не хотел бы ругаться, но причина тормозов, как мне видится, в не оптимальных настройках хоста сервера RDP, кривой или малой памяти, хреновастой скорости сети.

Видео здесь вообще не при чем: видео обрабатывает клиентская машина, а не сервер

Проблема в видеокарте не в стенке, не в печке, не в CPU, не в памяти.
а в видеокарте.

Так что если встроенная "не тянет" проверяй где накосячил.

Где накосячил кто? Я или Lee? Систему ставил Lee. Дрова ставил Lee.

Я первым(!) делом, как загрузил сервер, подвигал окошки и сильно расстроился, ибо ощутил те же тормоза. Особенно, если когда включил опцию "перетаскивать окна с содержимым", что по умолчанию отключена в классической серверной теме.

Когда я забирал сервер, Lee заверил меня в том, что его сотрудники всё проверили, тормозов нет. О том, что там старый Матрас опять этот мерзкий G200eW я узнал, когда приехал к нему забирать сервер. Я ж не думал, что производитель зачем-то переименует Matrox G200eW в красивое название Nuvoton.

Кроме того, такая ситуация уже у нас с Lee уже была -- в декабре 2009 года -- я у него тогда заказывал аналогичный сервер на Xeon для терминалов 1С v8.1. Мне тогда НИЧЕГО не удалось ему доказать и пришлось за свой счёт докупать видеокарту и устанавливать её в сервер. ТОЛЬКО ПОСЛЕ УСТАНОВКИ ДИСКРЕТНОЙ ВИДЕОКАРТЫ исчезли начисто все тормоза в терминалах 1С!

Сейчас, когда ситуация повторилась один в один, стало просто грустно и обидно, что опять приходится распинаться и доказывать, что я не верблюд -- и тратить время на поиски видеокарты. На сей раз сложнее -- нужна карта PCI-E x8/x4. Где её достать?


Забирал ты машину числа эдак 7го марта.

Я ж не думал, что ты не знаешь ЧТО это!

Сервер для терминалов 1С покупался а использовать его из коробки нереально. Тормозит интерфейс терминалов. Проблема налицо? Есть такое дело.

Цитата Lee:
Просто очень не люблю когда передёргивать начинают.

Ответ мой:
С моей стороны не было никакого передёргивания.
Тебе по барабану проблемы клиентов, которые вызваны исключительно твоей работой, точнее -- недоработками.

Цитата (писал я):
Ну, короче, я понял, ты просто уполз в кусты.
На большее я и не рассчитывал.

ответ Lee:
Ну уполз так уполз. Ты сказал. ))))

Обалденное обращение с клиентами.
Спасибо тебе Lee за помощь в решении возникшей во второй(!) раз одной и той же проблемы с терминалами, которую ты не только не в состоянии решить, но даже посодействовать в её решении. Всё.

> О том, что там старый Матрас опять этот мерзкий G200eW я узнал, когда приехал к нему забирать сервер. Я ж не думал, что производитель зачем-то переименует Matrox G200eW в красивое название Nuvoton.
> 14.02.2012
> - Какая видеокарта
> - Nuvoton WPCM450RA0BX
> - Это то, что надо

> Забирал ты машину числа эдак 7го марта.

И что с того, что 7 марта?

> Я ж не думал, что ты не знаешь ЧТО это!

Если бы ты знал, что это тот же Матрас 200, мог бы и сказать сам. Но я не против Матрасов -- когда я сервер забирал, ты сам сказал, что там Matrox G200eW, но твои спецы всё проверили, тормозов нет. Было такое? Было.

Тормоза есть? Есть. Сам даже ссылку нашёл на подобные тормоза в терминалах, если на материнке G200eW распаяна.

А так же (как оказалось сегодня) для ФОТОШОПА и офиса. Ты решил переписку выложить? Ну так выкладывай ВСЮ, а не ту где ты Дартаньян на белой лошади:))))) или мне тогда выложить?:)))))
PS
OEM Винда устанавливается на машину as is. НАСТРАИВАЮТ её на месте, тем более устанавливают собственный софт. Я ЛИЧНО смотрел эту машину. На голой 2008й с дровами ничего не тормозило. Да, при разрешении 1024x768. Я не предпологал что у тебя серверные разрешения 1900:))))

clip_image002

Компания Super Micro представила новую 1U платформу SuperServer 6016GT-TF. В этой платформе возможна установка двух отдельных видеокарт в независимые слота PCIx16. В нашем случае это платформа SuperServer 6016GT-TF-TC2, в ней уже установлено 2 видеокарты Nvidia Tesla C1060, служащие для вычислений. Так же есть модель в которой установлены Nvidia Tesla M1060.

clip_image004

В основе платформы материнская плата X8DTG-DF. Материнская плата рассчитана на использование новых процессоров Intel Nehalem-EP (QPI до 6.4 GT/s) и памяти DDR3 (до 96GB 1333/ 1066/ 800MHz ECC Registered DIMM и до 24GB Unbuffered DIMM).

clip_image006

Функционал материнской платы стал уже почти стандартным. Чипсет Intel 5520 (Tylersburg), ICH10R + IOH-36D. ICH10R позволяет создать из SATA дисков RAID 0, 1, 5. Вообще-то он умеет делать и R10, но из трех дисков его не сделать.

clip_image008

Корзина рассчитана на 3 диска, блок питания так же выведен спереди, для оптимизации используемого пространства внутри платформы

_MG_2814

Блок питания один, хотя и вынимается

clip_image024

clip_image010

Есть один свободный порт PCI-E x4 выполненный в форм-факторе x16. В него можно установить Low Profile карточки расширения.

clip_image012

clip_image014

Перейдем к самому интересному. На фотографии одна из двух Nvidia Tesla находящихся в платформе и карточка Riser для её установки в шасси.

Как видно на фотографии видео карта не имеют видео выходов. Она предназначены только для расчетов.

clip_image016

Снизу карта закрыта массивным радиатором на который отводят тепло чипы памяти расположенные с внутренней стороны платы. В сумме на плате 4ГБ GDDR3.

clip_image018

Если снять верхнюю крышку радиатора, то можно увидеть гигантский GPU закрытый теплораспределителем, вокруг которого расположена вторая порция памяти.

Спецификация видео карты:

Form Factor

10.5" x 4.376", Dual Slot

Frequency of processor cores

Single Precision floating point performance (peak)

Double Precision floating point performance (peak)

Floating Point Precision

IEEE 754 single & double

Total Dedicated Memory

Memory Speed

Memory Interface

Memory Bandwidth

Max Power Consumption

System Interface

Auxiliary Power Connectors

Thermal Solution

Active fan sink

clip_image020

Очень хорошо выполнено охлаждение всей системы. Четыре вентилятора охлаждают процессоры и память.

clip_image022

По два вентилятора охлаждают каждую видеокарту. Нагнетаемый ими воздух попадает прямо в систему охлаждения видеокарты.

Позже, надеюсь, мы опубликуем расчетный тест выполненный на GPU и сможем посмотреть эффективность GPU против CPU на данной платформе.

date

30.08.2019

directory

Linux, Железо

comments

комментариев 19

Не так давно, мне удалось поработать с новыми для меня серверами Supermicro удаленное управление которыми осуществляется с помощью интерфейса IPMI. В данной статье я постараюсь раскрыть основные моменты в настройки IPMI на серверах Supermciro, покажу основные пункты меню интерфейса IPMI, а также расскажу о дополнительных утилитах, командах и способах мониторинга сервера с помощью ipmi.

Первичная настройка IPMI консоли и знакомство с интерфейсом

Настройка IPMI начинается с настройки IP адреса интерфейса, который нужно указать в BIOS. Если сервер установлен в офисе, это может быть серый IP-адрес, если же ваше оборудование размещается в ДатаЦентре, то наверняка вы используете белый статический IP-адрес.

На серверах Supermicro в BIOS можно попасть, нажав кнопку “Del” при загрузке сервера, я не буду заострять на этом внимание и сразу перейду к интерфейсу самого BIOS.

настройка ip адреса ipmi на сервера supermicro

Как видите на скриншоте, я вошел в пункт меню IPMI и активировал возможность конфигурации Lan для интерфейса (Update IPMI Lan Configuration=Yes, Configuration Address Source = Static), указал IP-адрес, маску подсети и основной шлюз.

Применить настройки можно нажав кнопку F4, после чего произойдет перезагрузка сервера.

Если вы все сделали правильно, то введя в браузере, указанный для интерфейса IPMI IP, у вас откроется авторизация:

supermicro ipmi login page

Теперь пройдем по основным моментам.

При покупке нового сервера, в IPMI уже создан пользователь ADMIN с паролем ADMIN, именно с этими данными мы и авторизуемся. Я всегда рекомендую создавать нового пользователя, а стандартного удалять или менять у него пароль, так оставлять такой логин и пароль, крайне небезопасно. Создать нового пользователя или поменять пароли/привилегии у текущих, можно в меню Configuration -> Users.

список пользвоателей ipmu и привелегий

Рестарт интерфейса IPMI можно сделать из меню Maintenance -> Unit Reset.

Монтирование iso образа ОС для установки на сервер выполняется в меню Virtual Media -> CD-ROM Image.

подключение iso образа в ipmi для установки хостовой операционной системы

У меня iso образы ОС хранятся на сервере Samba в той же подсети что и интерфейсы IPMI серверов. Я указываю адрес сервера Samba, путь к образу установочному ISO с ОС, после чего монтирую ISO образ и приступаю к установке операционной системы.

Удаленную графическую Java консоль сервера (KVM-over-IP) можно открыть через Remote Control -> Console Redirection.

Консоль в целом удобная, но после установки ОС, для работы с сервером я обычно использую ssh клиенты. Иногда есть моменты когда, это невозможно, например если у вас не работает или еще не настроена сеть на сервере или же имеются какие-то проблемы с доступом. Именно тогда на помощь и приходит Remote Console.

KVM-over-IP - удаленная java консоль сервера через ipmi

Никаких отдельных настроек в самой консоли делать не нужно, хочу лишь добавить, что она имеет встроенную клавиатуру, которую можно вызывать из меню Virtual Media -> Virtual Keyboard.

клавиатура в ipmi консоли

Совет. После продолжительной работы с серверами SUpermicro, я обнаружил один неприятный баг. После установки операционной системы Centos 7 и установки KVM на нее, пропадает возможность использовать Remote Console. Пока сервер в процессе загрузки, консоль отвечает и можно пройти в Bios или увидеть загрузку ядра ОС. Но как только операционная система загрузилась, видео в консоли пропадает. Путем экспериментов мне удалось победить этот баг. Нужно в загрузки ядра добавить параметр загрузки nomodeset. Для этого после установки ОС нужно выполнить команду:

grubby --args "nomodeset" --update-kernel /boot/vmlinuz-`uname -r`

После этого, Remote Console работает исправно.

Управление сервером через утилиту IPMICFG от SuperMicro

Для управления серверами через IPMI компания SuperMicro разрабатывает собственную утилиту IPMICFG.

Распакуем скачанный файл в директорию которой находимся:

Далее создаем символическую ссылку для удобства запуска утилиты:

ln -s /root/IPMI*/Linux/64bit/IPMICFG-Linux.x86_64 /usr/local/sbin/ipmicfg

Теперь мы можем запускать утилиту с помощью команды ipmicfg (символической ссылки). Рассмотрим базовые возможности утилиты ipmicfg.

Если выполнить команду ipmicfg -help мы получим список всех возможных параметров утилиты.

утилита настройки ipmi от supermicro: ipmicfg -help

Разберем основные команды:

  • ipmicfg -help – полная справка по утилите;
  • ipmicfg -m – просмотр текущего IP и mac-адреса для IPMI;
  • ipmicfg -k — просмотр маски подсети;
  • ipmicfg -g – просмотр заданного шлюза;
  • ipmicfg -fd — сброс IPMI к заводским настройкам;
  • ipmicfg -user list – просмотр созданных пользователей и их привилегий.

Вы можете изменить IP адрес, маску и шлюз интерфейса IPMI:

  • ipmicfg -m 192.168.1.200
  • ipmicfg -k 255.255.255.0
  • ipmicfg -g 192.168.1.1

Создать нового пользователя IPMI и его пароль:

ipmicfg -user add <user id> <name> <password> <privilege>

С помощью утилиты делаем следующее:

ipmicfg -user add 6 test 123456 4

Тем самым мы создали пользователя test с паролем 123456 и привилегиями администратора.

Список пользователей IPMI и их привилегии в системе можно вывести командами:

  • ipmicfg -user list
  • ipmicfg -user help

ipmicfg -user list - вывести список пользователей ipmi и права

Как уже видите на скриншоте, пользователь test создан.

Чтобы изменит (сбросить) пароль пользователя IPMI, исползайте команду:

ipmicfg -user setpwd

И приведу еще пару примеров использование данной утилиты:

  • ipmicfg -hostname [value] — задать hostname для ipmi интерфейса;
  • ipmicfg -r — перезагрузка IPMI.

Мониторинг железа на сервере SuperMicro через IPMI и утилиту IPMICFG

Мониторинг сервера SuperMicro через IPMI

Через IPMI мониторить температуру и работу железа сервера SuperMicro довольно просто. Полная информация о железе сервера содержится в пункте System -> Hardware Information.

железо сервера supermicro через ipmi

Информацию по состоянию процессора, оперативной памяти и вентиляторах, можно посмотреть перейдя во вкладку Server Health -> Sensor Readings.

состояние сенсоров на сервере supermicro

Для удобства просмотра, можно менять категории отображения датчиков, например, температуры:

датчики температуры

Или датчики напряжения:

датчики напряжения

Так как в данный момент на нашем сервере нет проблем, ни с температурой, ни с напряжением, все датчики находятся в зеленой зоне. Если на сервере поднимается температура или есть проблемы с напряжением, зеленые прямоугольники будут окрашиваться в красный цвет, что послужит сигналом для проверки вашего сервера.

Мониторинг с помощью утилиты ipmicfg

Проверка состояния блоков питания:

ipmicfg -pminfo - проверка состояния блоков питания

Посмотреть температуру процессора можно командой:

ipmicfg -nm oemgettemp

ipmicfg -nm oemgettemp - температура процессора

Так же можно проверить в каком режиме работают вентиляторы и изменить режим, если это необходимо.

Проверка состояния и конфигурации вентилятора

ipmicfg -fan - состояние вентилятора

Изменение режима работы кулера: ipmicfg -fan <mode> Например, ipmicfg -fan 3

Информация о версии и прошивке IPMI:

ipmicfg -nm deviceid версия и прошивка ipmi

И посмотреть все сенсоры можно командой ipmicfg -sdr

ipmicfg -sdr все сенсоры на сервере supermicro

При выводе мы видим, что есть дополнительные столбцы, в которых отображена информация о лимитах нижнего и верхнего пределов.

Так же существует еще не малое количество утилит, которые можно использовать для мониторинга и автоматизировать этот процесс, например, с nagios. В данный момент заострять на этом внимание мы не будем, так как цель статьи рассказать основные моменты в работе с IPMI. Если вас заинтересует тема мониторинга, вы можете оставить свои пожелания и возможно в дальнейшем мы осветим и эту тему. Надеюсь, данная статья окажется для вас полезной!

Впервые для себя мы подключили NVMe диск формата U2 через переходник PCI-Ex4. Такая задача была поставлена клиентом, и нам проще было бы использовать NVMe в форм-факторе M2, но емкость этого диска должна была быть в пределах 1.2TB, ждать готовый продукт от Intel заказчик не хотел и не мог, поэтому пришлось делать такой костыль, но как оказалось работает без нарекании.

Затем мы это все установили через riser card в 1U сервер, и это стало выглядеть уже так:

Дело в том, что накопители NVMe могут работать только с UEFI, поэтому, для того чтобы увидеть накопитель в BIOS, в разделе PCIe/PCI/PnP Configuration необходимо переключить режим работы слота в который установлен наш диск в режим EFI вместо Legacy. Если все сделано верно, то после сохранения настроек и перезагрузки сервера, вы увидите накопитель в BIOS материнской платы:



Устанавливать ОС на данный накопитель можно только из источников с поддержкой UEFI, в нашем случае мы использовали виртуальный привод IPMI в данном режиме.

Установилось все очень даже быстро и по ощущениям сама ОС Windows Server 2016 работает очень приятно.


Информация из CristalDiskInfo

Но мы решили сделать быстрые замеры в нескольких популярных программах без каких либо настрое, т.е. все настройки по умолчанию. Результаты вы можете увидеть ниже.



Впечатлило? Нас тоже, и это вдохновило на написание небольшой записи, где мы будем постепенно добавлять результаты производительности разных дисковых подсистем в различных конфигурациях. Запись можно посмотреть по этой ссылке: Сравнение производительности дисковых подсистем

Читайте также: