Apple подготвува нова Mac апликација наречена Harbor, која треба да го олесни локалното извршување на модели за вештачка интелигенција на еден или повеќе Mac компјутери. Апликацијата ја откри Арон Перис, а за неа веќе постои и официјална страница на Claris, компанијата на Apple позната по FileMaker платформата за бази на податоци.
Според Claris, Harbor ги претвора Apple компјутерите во приватен сервер за модели со отворени тежини („open-weight“), без трошоци за „облакот“ и без плаќање по „токен“. Компанијата тврди дека податоците и барањата остануваат исклучиво на хардверот на корисникот.
Апликацијата работи и на еден Mac, но главниот адут е поврзувањето повеќе компјутери преку Thunderbolt 5. Според текстот што го објави Перис, Harbor автоматски ги препознава поврзаните уреди и ја спојува нивната обединета меморија во еден ресурс, па така можат да се извршуваат модели што се преголеми за еден компјутер или да се опслужуваат повеќе барања истовремено. Сето ова треба да оди „без командна линија“ и без рачно подесување.
Моделите се бараат, преземаат и вчитуваат директно од апликацијата. На сликите што ги објави Перис се гледа дека тие се преземаат од Hugging Face, а на една од нив е прикажан кластер од MacBook Pro со M5 Max и два Mac mini компјутери со M4 Pro.
Тоа значи дека за кластер не е доволен било кој Mac. На пример, кај новиот Mac mini Thunderbolt 5 го има само верзијата со M5 Pro, додека основниот модел со M6 е со Thunderbolt 4. Изгледа дека Harbor најмногу ќе им одговара на сопствениците на Mac Studio, кој веќе е популарен за работа со локални модели.
Вакво нешто инаку постои и сега. LM Studio нуди едноставно извршување на модели на еден компјутер, како и познатата Ollama, а Exo е бесплатна алатка со отворен код за поврзување повеќе Mac компјутери во кластер. Harbor изгледа ги спојува двете можности во една апликација.
Harbor засега не е јавно достапен, а според MacRumors, апликацијата имала страница на App Store која потоа е отстранета. Формуларот на Claris бара и име на компанија, што сугерира дека Apple цели пред сѐ кон бизниси.
Не е познато кога Harbor ќе стане достапен за сите, ниту дали ќе се наплаќа.
