Accélération GPU sur Mac et Windows

Ce qui tourne sur votre ordinateur

Tous les modèles passent par ONNX Runtime, le même moteur sur toutes les plateformes. ONNX Runtime confie le calcul à un fournisseur d’exécution : le CPU, Core ML sur Mac ou DirectML sur Windows. L’accélération GPU ne déplace que le modèle de recherche, la partie la plus lourde de l’indexation. Les visages restent sur le processeur quel que soit votre choix.

Faut-il l’activer ?

• Oui, pour l’essayer, si vous vous apprêtez à indexer une grande photothèque (des milliers de photos) et voulez continuer à utiliser votre ordinateur en même temps, ou réduire le bruit des ventilateurs et la consommation de la batterie.
• Pas besoin pour une petite photothèque ou les analyses courantes : après la première indexation, Aubora ne lit que les nouvelles photos, et le processeur s’en charge vite.
• Désactivez-la si quelque chose vous semble anormal. Le processeur reste la référence.

Sur Mac : Core ML

Quels Mac

Les Mac Apple Silicon (M1, M2, M3, M4 et suivants). Sur les Mac Intel, l’option est désactivée : la version GPU du modèle doit être compilée puis mise en cache sur le disque, et la version d’ONNX Runtime disponible pour les Mac Intel ne peut pas conserver ce cache ; elle recompilerait donc à chaque lancement.

L’activer

1. Ouvrez Réglages → Avancé → Accélération.
2. Activez Utiliser l’accélération GPU (CoreML).
3. Aubora télécharge une fois la version GPU du modèle de recherche (environ 600 Mo, en précision 16 bits), puis la compile pour le GPU de votre Mac. Cela prend quelques minutes ; une note indique chaque étape, et vous pouvez continuer à utiliser Aubora.
4. Le modèle compilé est mis en cache sur le disque : les lancements suivants sautent la compilation.

À quoi s’attendre

• Vitesse : à peu près la même que sur le processeur. Dans nos tests sur un M4, les deux prenaient environ 170 ms par photo pour le modèle de recherche.
• Charge sur le Mac : bien plus faible. Sur le processeur, l’indexation occupe plusieurs cœurs ; sur le GPU, elle descend à environ un cœur. Le reste du Mac reste réactif, et les ventilateurs et la batterie sont moins sollicités.
• Seulement pour les grosses analyses : charger le modèle sur le GPU prend un moment au début d’une analyse (l’état affiche « Chargement des modèles d’IA (CoreML…) »). Aubora n’utilise donc le GPU que pour les analyses d’au moins 2 000 photos par défaut ; les plus petites restent sur le processeur. Le seuil se règle juste sous l’interrupteur : Utiliser le GPU uniquement pour les analyses d’au moins … photos.

Pourquoi pas le Neural Engine ?

Le Neural Engine d’Apple a donné des résultats faux pour ce modèle sur certains Mac lors de nos tests, sans aucun message d’erreur. Aubora demande donc à Core ML d’utiliser uniquement le GPU et le CPU, au format « ML Program » avec des tailles d’entrée fixes : la configuration qui donnait les mêmes résultats que le processeur sur toutes les photos testées.

Sur Windows : DirectML

Quels PC

Un PC x64 sous Windows 11 (la version prise en charge par Aubora ; DirectML fonctionne lui-même dès Windows 10 version 1903) avec une carte graphique DirectX 12. Selon Microsoft, cela couvre :

• les NVIDIA GeForce GTX série 600 et suivantes ;
• les AMD Radeon HD série 7000 (GCN) et suivantes ;
• les puces graphiques intégrées Intel à partir des Core de 4e génération (Haswell).

Sur Windows sur ARM (portables Snapdragon), l’option est désactivée : il n’existe pas encore de version DirectML d’ONNX Runtime pour ARM. La prise en charge des puces graphiques et d’IA de ces PC est prévue. Dans une machine virtuelle, aucune carte graphique DirectX 12 n’est en général visible : Aubora reste alors sur le processeur.

L’activer

1. Ouvrez Réglages → Avancé → Accélération.
2. Activez Utiliser l’accélération GPU (DirectML).
3. Aubora télécharge une fois la version GPU du modèle de recherche, puis la vérifie sur votre carte graphique en la comparant au processeur (voir plus bas).
4. Elle s’applique à partir de l’analyse suivante, quelle que soit sa taille.

À quoi s’attendre

• Vitesse : avec une carte graphique dédiée, le modèle de recherche devrait tourner plus vite que sur le processeur. Une puce graphique intégrée gagne moins. Nous le mesurons sur du vrai matériel pendant la bêta.
• Portables à deux puces graphiques (une intégrée et une dédiée) : DirectML utilise l’adaptateur par défaut de Windows, en général celui qui gère l’écran principal. Aubora ne permet pas encore de choisir l’autre.

Comment Aubora garde des résultats justes

Un GPU calcule avec des nombres sur 16 bits là où le processeur utilise 32 bits, et les pilotes graphiques calculent parfois un modèle de travers sans signaler d’erreur. Aubora se protège des deux :

• Vérification contre le processeur. Quand il charge le modèle sur le GPU, Aubora soumet la même entrée au GPU et au processeur, puis compare les deux résultats. S’ils ne concordent pas assez (une similarité cosinus inférieure à 0,99), il abandonne le GPU, reste sur le processeur et vous le signale.
• Les 16 bits suffisent pour la recherche. Sur une vraie photothèque, les résultats du modèle 16 bits correspondaient à ceux du modèle 32 bits (similarité cosinus de 1,0) et donnaient les mêmes 10 premiers résultats pour toutes les recherches testées. Vos résultats de recherche ne changent pas.
• Repli automatique. Si le téléchargement, la compilation ou la vérification échoue, Aubora continue sur le processeur. Rien n’est perdu, et votre index reste valide.

La désactiver

Désactivez l’interrupteur dans Réglages → Avancé → Accélération. Sur Mac, Aubora propose aussi de supprimer le modèle GPU en cache pour libérer l’espace disque qu’il occupe ; si vous le gardez, réactiver le GPU est immédiat. Les analyses repassent alors sur le processeur.

Messages que vous pouvez voir

Questions

Toujours bloqué ? Que faire si vous êtes bloqué