RADIO7

#добреналаштоване

Microsoft розкриває подробиці про свою інфраструктуру ШІ Singularity

Microsoft розкриває подробиці про свою інфраструктуру ШІ Singularity

Microsoft повідомила, що працює над новою системою планування «планетарного масштабу» для робочих навантажень штучного інтелекту (ШІ) під назвою Singularity.

Як пояснюється в технічній статті, опублікованій фірмою, Singularity — це «новий планувальник з урахуванням робочих навантажень, який може прозоро попереджати та еластично масштабувати робочі навантаження глибокого навчання для забезпечення високого ступеня використання, не впливаючи на їхню правильність чи продуктивність у глобальному масштабі прискорювачів ШІ».

Говорячи нетехнічною мовою, це означає, що система призначена для забезпечення оптимального використання глобальної мережі серверного обладнання компанії, тим самим скорочуючи витрати, пов’язані з виконанням робочих навантажень ШІ. В основі ціннісної пропозиції Singularity лежить можливість змінювати розмір робочих місць у середині потоку, а також переміщувати їх між різними інфраструктурами, розташованими по всьому світу.

 

Microsoft

 

Як пояснюється в документі, поточне завдання можна перенести в інший кластер або центр обробки даних і відновити точно з місця, де воно було зупинено, тим самим оптимізуючи використання ємності. Його також можна еластично масштабувати вгору або вниз, використовуючи різні типи і кількість прискорювачів штучного інтелекту. Принадність цієї системи, за словами Microsoft, у тому, що вона не вимагає додаткової роботи з боку розробників, оскільки для роботи Singularity не потрібні жодні модифікації коду.

Проте, щоб зробити це можливим, Microsoft довелося знайти спосіб відокремити робочі навантаження від апаратних ресурсів. У новому рішенні використовується те, що компанія називає «проксі-пристроєм», який працює у своєму власному адресному просторі та встановлює рівень поділу, що забезпечує плавний перерозподіл ресурсів.

Хоча основна увага у документі приділяється службі планування, автори заявляють, що система призначена для масштабування на парк із сотень тисяч графічних процесорів та інших прискорювачів ШІ.

Джерело.

Владислав

    Leave a Reply