Multi-threading, multi-taches et asynchronisme

Transcription

1 Cours 5: Taches versus Threads Asynchronisme et multi-threading Françoise Baude Multi-threading, multi-taches et asynchronisme 1. Thread Pool et Executor 2. Taches avec résultat, et asynchrones 1

2 Thread Pool et Executor: motivation Une thread sert à mener à bien le déroulement d une tache Modèle simple (simpliste!): Création d une thread pour chaque nouvelle tache Ok pour réaliser un prototype Mais peu performant si beaucoup de threads car gestion d une thread consomme temps et mémoire: Création et destruction: surcout non négligeable surtout si tache courte! Occupation mémoire pour représenter une thread dans JVM Plutôt se baser sur la notion de pool (réservoir) de threads et affecter dynamiquement chaque tache à une thread libre (par le biais d un «executor») Thread Pool: principes Pre-instancier un réservoir de threads Délai d exécution d une tache réduit Pas besoin de créer la thread a chaque nouvelle tache =>Surcout de création des threads amorti sur l ensemble des taches qui seront exécutées Limite l explosion mémoire JVM Nombre de threads peut par ex. être fonction du nombre de cores Gestion liste des taches soumission + affectation sur threads Pas forcement trivial! Voir exemple ci après Plusieurs ThreadPool et Executors disponibles dans java.util.concurrent 2

3 Thread Pool: exemple d implantation [B. Goetz] Permet de soumettre une tache auprès s de l exécuteur de taches Thread Pool: difficultés Une tache «runnable» peut se bloquer, donc la thread qui exécute la tache aussi Rajoute un risque d interblocage Plus de threads disponible permettant de faire progresser une tache, qui une fois terminée pourrait en débloquer une Trop de taches bloquées => plus, ou presque plus de threads disponibles («thread leakage») Compromis habituel entre gain et overheads! Beaucoup de taches : stockage important pour taches en attente (versus une thread / tache) Trouver la «bonne» taille pour le pool de threads: fonctions du nombre de cores, types de taches (I/O-bound ou CPUbound) 3

4 «Executor»: mode d utilisation Si r est un objet «Runnable», et e un objet «Executor» Remplacer: (new Thread(r)).start(); par e.execute(r); Une implémentation d «Executor» est libre de choisir comment gérer l affectation des taches aux threads The Executor interface does not strictly require that execution be asynchronous. In the simplest case, an executor can run the submitted task immediately in the caller's thread: class DirectExecutor implements Executor { public void execute(runnable r) { r.run(); } } More typically, tasks are executed in some thread other than the caller's thread. The executor below spawns a new thread for each task: class ThreadPerTaskExecutor implements Executor { public void execute(runnable r) { new Thread(r).start start(); } } Ex: java.util.concurrent.threadpoolexecutor: implémentation d un Executor utilisant 1 pool de threads Une grande variété d «Executor» sophistiqués java.util.concurrent.executors.newcachedthreadpool public static ExecutorService newcachedthreadpool(threadfactory threadfactory) Creates a thread pool that creates new threads as needed, but will reuse previously constructed threads when they are available, and uses the provided ThreadFactory to create new threads when needed. public interface ExecutorService extends Executor An Executor that provides methods to manage termination and methods that can produce a Future for tracking progress of one or more asynchronous tasks. An ExecutorService can be shut down, which will cause it to reject new tasks. Two different methods are provided for shutting down an ExecutorService. The shutdown() method will allow previously submitted tasks to execute before terminating, while the shutdownnow() method prevents waiting tasks from starting and attempts to stop currently executing tasks 4

5 Multi-threading, multi-taches et asynchronisme 1. Thread Pool et Executor 2. Taches avec résultat, et asynchrones «Callable»: motivation Lorsque une tache (qui sera exécutée par une thread) doit renvoyer un résultat : Au lieu d etre Runnable Elle est Callable java.util.concurrent Interface Callable<V> Type Parameters: V - the result type of method call 5

6 Liveness and Asynchrony Futures Futures allow a client to continue in parallel with a host until the future value is needed: Oscar Nierstrasz 11 Tache avec résultat exécutée en asynchrone : Future et ExecutorService Problème du à l utilisation d un Executor: soumission d une tache à un executor Souhait: Exécution de la tache par une thread en mode asynchrone On ne sait donc pas quand le résultat de la tache va être disponible Solution: le résultat de la tache est manipulé par le biais d un Future, renvoyé immédiatement lors de la soumission, représente une promesse de réponse Permet de s enquérir de l avancement de la tache, voire l annuler ExecutorServices provide methods arranging asynchronous execution of any function expressed as Callable, the resultbearing analog of Runnable <T> Future<T> submit(callable<t> task) <T> T invokeany(collection<? extends Callable<T>> tasks) <T> List<Future<T>> invokeall(collection<? extends Callable<T>> tasks) ThreadPoolExecutor implémente ExecutorService (et Executor) 6

7 «Future» interface java.util.concurrent Interface Future<V> Type Parameters: V - The result type returned by this Future's get method The result can only be retrieved using method get when the computation has completed, blocking if necessary until it is ready to immediately block waiting for a task: result = exec.submit(acallable).get(); boolean isdone() Returns true if the corresponding task completed. result = exec.submit(acallable); while (! result.isdone()){ do something else in parallel} result.get(); Cancellation is performed by the cancel method Exemple [R. Lorimer 7

8 Gestion de Futures «transparents» Principe: appel de méthode sur un objet, qui doit renvoyer un retour: La réponse est un futur, mais transparent pour l appelant Wait by Necessity: blocage automatique tant que la réponse n est pas disponible Extension avec des groupes d objets de même type Appel sur le groupe d objets comme si c était un seul Récupère un groupe de futures Comment? Par une réification des appels de méthodes en Java Rajout de traitements «Meta» (Meta Object Protocol), dont RMI Exemple: Logiciel OW2 ProActive Parallel Suite, équipe OASIS (Objets Actifs, Sémantique, Internet, Sécurité), CNRS I3S-INRIA ActiveEon, StartUp Sophia-Antipolis 8