Чекаємо на список майбутнього


145

У мене є метод, який повертає Listф'ючерси

List<Future<O>> futures = getFutures();

Тепер я хочу почекати, поки або всі ф'ючерси будуть успішно оброблені, або будь-яке завдання, вихід якого повертається майбутнім, викине виняток. Навіть якщо одне завдання кидає виняток, немає іншого сенсу чекати на інші ф'ючерси.

Простий підхід був би до цього

wait() {

   For(Future f : futures) {
     try {
       f.get();
     } catch(Exception e) {
       //TODO catch specific exception
       // this future threw exception , means somone could not do its task
       return;
     }
   }
}

Але проблема тут полягає в тому, якщо, наприклад, четверте майбутнє кине виняток, тоді я зайво чекатиму, коли будуть доступні перші 3 ф'ючерси.

Як це вирішити? Чи підрахує допомогу засувки будь-яким чином? Я не можу використовувати майбутнє, isDoneтому що говорить доктор Java

boolean isDone()
Returns true if this task completed. Completion may be due to normal termination, an exception, or cancellation -- in all of these cases, this method will return true.

1
хто генерує ці ф'ючерси? Якого типу вони? Інтерфейс java.util.concurrent.Future не надає потрібної вам функціональності, єдиний спосіб - використовувати власні Futures з зворотними зворотами.
Олексій Кайгородов

Ви можете зробити екземпляр ExecutionServiceдля кожної "партії" завдань, подати їх, а потім негайно вимкнути службу і використовувати awaitTermination()її, я думаю.
мільйозу

Ви можете використовувати a, CountDownLatchякщо ви загорнули тіло всіх своїх майбутніх у, try..finallyщоб переконатися, що засувка також зменшиться.
мільйозу

docs.oracle.com/javase/7/docs/api/java/util/concurrent/… робить саме те, що потрібно.
assylias

@AlexeiKaigorodov ТАК, моє майбутнє типу java.util.concurrent.Я подаю позов до майбутнього з дзвоном. Я отримую майбутнє, коли я надсилаю завдання виконавцеві служби
user93796

Відповіді:


124

Ви можете використовувати CompletionService для отримання ф'ючерсів, як тільки вони будуть готові, і якщо один з них кине виняток, скасує обробку. Щось на зразок цього:

Executor executor = Executors.newFixedThreadPool(4);
CompletionService<SomeResult> completionService = 
       new ExecutorCompletionService<SomeResult>(executor);

//4 tasks
for(int i = 0; i < 4; i++) {
   completionService.submit(new Callable<SomeResult>() {
       public SomeResult call() {
           ...
           return result;
       }
   });
}

int received = 0;
boolean errors = false;

while(received < 4 && !errors) {
      Future<SomeResult> resultFuture = completionService.take(); //blocks if none available
      try {
         SomeResult result = resultFuture.get();
         received ++;
         ... // do something with the result
      }
      catch(Exception e) {
             //log
         errors = true;
      }
}

Я думаю, ви можете вдосконалити скасування будь-яких завдань, що виконуються, якщо одна з них видасть помилку.


1
: Ваш код має таку саму проблему, про яку я згадував у своєму дописі. Якщо в майбутньому буде виняток, тоді код все ще чекатиме завершення в майбутньому 1,2,3. або буде завершенняSerice.take) поверне майбутнє, яке завершиться першим?
user93796

1
Як щодо тайм-аутів? Чи можу я сказати, що служба завершення чекати максимум X секунд?
user93796

1
Не повинен був. Він не повторюється над ф'ючерсами, але як тільки готовий, його обробляють / перевіряють, якщо не викидають виняток.
dcernahoschi

2
Для очікування очікування майбутнього, яке з’явиться у черзі, існує метод опитування (секунд) на CompletionService.
dcernahoschi

Ось робочий приклад на github: github.com/princegoyal1987/FutureDemo
user18853

107

Якщо ви використовуєте Java 8, ви можете зробити це простіше за допомогою CompletableFuture та CompletableFuture.allOf , який застосовує зворотний виклик лише після того, як будуть виконані всі надані CompletableFutures.

// Waits for *all* futures to complete and returns a list of results.
// If *any* future completes exceptionally then the resulting future will also complete exceptionally.

public static <T> CompletableFuture<List<T>> all(List<CompletableFuture<T>> futures) {
    CompletableFuture[] cfs = futures.toArray(new CompletableFuture[futures.size()]);

    return CompletableFuture.allOf(cfs)
            .thenApply(ignored -> futures.stream()
                                    .map(CompletableFuture::join)
                                    .collect(Collectors.toList())
            );
}

3
Привіт @Andrejs, чи не могли б ви пояснити, що робить цей фрагмент коду? Я бачу це в багатьох місцях, але я збентежений щодо того, що відбувається насправді. Як обробляються винятки, якщо одна з ниток виходить з ладу?
VSEWHGHP

2
@VSEWHGHP Від javadoc: Якщо будь-яка із заданих CompletableFutures завершена виключно, то повернута CompletableFuture також робить це, причому CompletionException вважає цей виняток як причину.
Андрейс

1
Так що я слідкував за цим, чи є спосіб використовувати цей фрагмент, але отримати значення для всіх інших потоків, які успішно завершилися? Чи варто мені просто повторити список CompletableFutures і зателефонувати, щоб ігнорувати CompletableFuture <Список <T>>, оскільки функція послідовності бере участь у тому, щоб усі потоки були завершеними або результатом, або винятком?
VSEWHGHP

6
Це вирішує іншу проблему. Якщо у вас є Futureвипадки, ви не можете застосувати цей метод. Перетворити Futureв це непросто CompletableFuture.
Jarekczek

це не спрацює, якщо ми маємо виняток у якомусь завданні.
slisnychyi

21

Використовуйте CompletableFutureв Java 8

    // Kick of multiple, asynchronous lookups
    CompletableFuture<User> page1 = gitHubLookupService.findUser("Test1");
    CompletableFuture<User> page2 = gitHubLookupService.findUser("Test2");
    CompletableFuture<User> page3 = gitHubLookupService.findUser("Test3");

    // Wait until they are all done
    CompletableFuture.allOf(page1,page2,page3).join();

    logger.info("--> " + page1.get());

1
Це має бути прийнятою відповіддю. Також це частина офіційної весняної документації: spring.io/guides/gs/async-method
maaw

Працює як очікувалося.
Дімон

15

Ви можете використовувати ExecutorCompletionService . У документації навіть є приклад для вашого конкретного випадку використання:

Припустимо, замість того, що ви хочете використовувати перший ненульовий результат набору завдань, ігноруючи будь-які зустрічі винятків та скасовуючи всі інші завдання, коли перша готова:

void solve(Executor e, Collection<Callable<Result>> solvers) throws InterruptedException {
    CompletionService<Result> ecs = new ExecutorCompletionService<Result>(e);
    int n = solvers.size();
    List<Future<Result>> futures = new ArrayList<Future<Result>>(n);
    Result result = null;
    try {
        for (Callable<Result> s : solvers)
            futures.add(ecs.submit(s));
        for (int i = 0; i < n; ++i) {
            try {
                Result r = ecs.take().get();
                if (r != null) {
                    result = r;
                    break;
                }
            } catch (ExecutionException ignore) {
            }
        }
    } finally {
        for (Future<Result> f : futures)
            f.cancel(true);
    }

    if (result != null)
        use(result);
}

Тут важливо помітити, що ecs.take () отримає перше виконане завдання, а не лише перше, що подається. Таким чином, ви повинні отримати їх у порядку закінчення виконання (або викидання виключення).


3

Якщо ви використовуєте Java 8 і не хочете маніпулювати CompletableFutures, я написав інструмент для отримання результатів для List<Future<T>>потокового використання. Ключовим є те, що вам заборонено, map(Future::get)як це кидає.

public final class Futures
{

    private Futures()
    {}

    public static <E> Collector<Future<E>, Collection<E>, List<E>> present()
    {
        return new FutureCollector<>();
    }

    private static class FutureCollector<T> implements Collector<Future<T>, Collection<T>, List<T>>
    {
        private final List<Throwable> exceptions = new LinkedList<>();

        @Override
        public Supplier<Collection<T>> supplier()
        {
            return LinkedList::new;
        }

        @Override
        public BiConsumer<Collection<T>, Future<T>> accumulator()
        {
            return (r, f) -> {
                try
                {
                    r.add(f.get());
                }
                catch (InterruptedException e)
                {}
                catch (ExecutionException e)
                {
                    exceptions.add(e.getCause());
                }
            };
        }

        @Override
        public BinaryOperator<Collection<T>> combiner()
        {
            return (l1, l2) -> {
                l1.addAll(l2);
                return l1;
            };
        }

        @Override
        public Function<Collection<T>, List<T>> finisher()
        {
            return l -> {

                List<T> ret = new ArrayList<>(l);
                if (!exceptions.isEmpty())
                    throw new AggregateException(exceptions, ret);

                return ret;
            };

        }

        @Override
        public Set<java.util.stream.Collector.Characteristics> characteristics()
        {
            return java.util.Collections.emptySet();
        }
    }

Для цього потрібен такий, AggregateExceptionякий працює як C #

public class AggregateException extends RuntimeException
{
    /**
     *
     */
    private static final long serialVersionUID = -4477649337710077094L;

    private final List<Throwable> causes;
    private List<?> successfulElements;

    public AggregateException(List<Throwable> causes, List<?> l)
    {
        this.causes = causes;
        successfulElements = l;
    }

    public AggregateException(List<Throwable> causes)
    {
        this.causes = causes;
    }

    @Override
    public synchronized Throwable getCause()
    {
        return this;
    }

    public List<Throwable> getCauses()
    {
        return causes;
    }

    public List<?> getSuccessfulElements()
    {
        return successfulElements;
    }

    public void setSuccessfulElements(List<?> successfulElements)
    {
        this.successfulElements = successfulElements;
    }

}

Цей компонент виступає точно як завдання C # .WaitAll . Я працюю над варіантом, який робить те саме, що CompletableFuture.allOf(еквівалентно Task.WhenAll)

Причина, чому я зробив це, полягає в тому, що я використовую Spring ListenableFutureі не хочу порту, CompletableFutureнезважаючи на це, є більш стандартним способом


1
Оновлення для бачення потреби в еквівалентному AggregateException.
granadaCoder

Приклад використання цього засобу був би непоганим.
XDS

1

У випадку, якщо ви хочете об'єднати Список складних функцій, ви можете зробити це:

List<CompletableFuture<Void>> futures = new ArrayList<>();
// ... Add futures to this ArrayList of CompletableFutures

// CompletableFuture.allOf() method demand a variadic arguments
// You can use this syntax to pass a List instead
CompletableFuture<Void> allFutures = CompletableFuture.allOf(
            futures.toArray(new CompletableFuture[futures.size()]));

// Wait for all individual CompletableFuture to complete
// All individual CompletableFutures are executed in parallel
allFutures.get();

Більш детально про Future & CompletableFuture корисні посилання:
1. Майбутнє: https://www.baeldung.com/java-future
2. CompletableFuture: https://www.baeldung.com/java-completablefuture
3. CompletableFuture: https : //www.callicoder.com/java-8-completablefuture-tutorial/


0

можливо, це допомогло б (нічого не замінило б сирою ниткою, так!) Я пропоную запустити кожного Futureхлопця окремим потоком (вони йдуть паралельно), то коли колись хтось із помилок, це просто сигналізує менеджеру ( Handlerкласу).

class Handler{
//...
private Thread thisThread;
private boolean failed=false;
private Thread[] trds;
public void waitFor(){
  thisThread=Thread.currentThread();
  List<Future<Object>> futures = getFutures();
  trds=new Thread[futures.size()];
  for (int i = 0; i < trds.length; i++) {
    RunTask rt=new RunTask(futures.get(i), this);
    trds[i]=new Thread(rt);
  }
  synchronized (this) {
    for(Thread tx:trds){
      tx.start();
    }  
  }
  for(Thread tx:trds){
    try {tx.join();
    } catch (InterruptedException e) {
      System.out.println("Job failed!");break;
    }
  }if(!failed){System.out.println("Job Done");}
}

private List<Future<Object>> getFutures() {
  return null;
}

public synchronized void cancelOther(){if(failed){return;}
  failed=true;
  for(Thread tx:trds){
    tx.stop();//Deprecated but works here like a boss
  }thisThread.interrupt();
}
//...
}
class RunTask implements Runnable{
private Future f;private Handler h;
public RunTask(Future f,Handler h){this.f=f;this.h=h;}
public void run(){
try{
f.get();//beware about state of working, the stop() method throws ThreadDeath Error at any thread state (unless it blocked by some operation)
}catch(Exception e){System.out.println("Error, stopping other guys...");h.cancelOther();}
catch(Throwable t){System.out.println("Oops, some other guy has stopped working...");}
}
}

Я мушу сказати, що вищезгаданий код помилився (не перевірив), але сподіваюся, що міг би пояснити рішення. будь ласка, спробуйте.


0
 /**
     * execute suppliers as future tasks then wait / join for getting results
     * @param functors a supplier(s) to execute
     * @return a list of results
     */
    private List getResultsInFuture(Supplier<?>... functors) {
        CompletableFuture[] futures = stream(functors)
                .map(CompletableFuture::supplyAsync)
                .collect(Collectors.toList())
                .toArray(new CompletableFuture[functors.length]);
        CompletableFuture.allOf(futures).join();
        return stream(futures).map(a-> {
            try {
                return a.get();
            } catch (InterruptedException | ExecutionException e) {
                //logger.error("an error occurred during runtime execution a function",e);
                return null;
            }
        }).collect(Collectors.toList());
    };

0

CompletionService візьме ваші Callables методом .submit (), і ви можете отримати обчислені ф'ючерси методом .take ().

Одне, що ви не повинні забувати, - це скасувати ExecutorService, викликавши метод .shutdown (). Також ви можете зателефонувати за цим методом лише тоді, коли ви зберегли посилання на службу виконавця, тому не забудьте зберегти його.

Приклад коду - для фіксованої кількості робочих предметів, над якими можна працювати паралельно:

ExecutorService service = Executors.newFixedThreadPool(Runtime.getRuntime().availableProcessors());

CompletionService<YourCallableImplementor> completionService = 
new ExecutorCompletionService<YourCallableImplementor>(service);

ArrayList<Future<YourCallableImplementor>> futures = new ArrayList<Future<YourCallableImplementor>>();

for (String computeMe : elementsToCompute) {
    futures.add(completionService.submit(new YourCallableImplementor(computeMe)));
}
//now retrieve the futures after computation (auto wait for it)
int received = 0;

while(received < elementsToCompute.size()) {
 Future<YourCallableImplementor> resultFuture = completionService.take(); 
 YourCallableImplementor result = resultFuture.get();
 received ++;
}
//important: shutdown your ExecutorService
service.shutdown();

Приклад коду - для динамічної кількості робочих предметів, над якими можна працювати паралельно:

public void runIt(){
    ExecutorService service = Executors.newFixedThreadPool(Runtime.getRuntime().availableProcessors());
    CompletionService<CallableImplementor> completionService = new ExecutorCompletionService<CallableImplementor>(service);
    ArrayList<Future<CallableImplementor>> futures = new ArrayList<Future<CallableImplementor>>();

    //Initial workload is 8 threads
    for (int i = 0; i < 9; i++) {
        futures.add(completionService.submit(write.new CallableImplementor()));             
    }
    boolean finished = false;
    while (!finished) {
        try {
            Future<CallableImplementor> resultFuture;
            resultFuture = completionService.take();
            CallableImplementor result = resultFuture.get();
            finished = doSomethingWith(result.getResult());
            result.setResult(null);
            result = null;
            resultFuture = null;
            //After work package has been finished create new work package and add it to futures
            futures.add(completionService.submit(write.new CallableImplementor()));
        } catch (InterruptedException | ExecutionException e) {
            //handle interrupted and assert correct thread / work packet count              
        } 
    }

    //important: shutdown your ExecutorService
    service.shutdown();
}

public class CallableImplementor implements Callable{
    boolean result;

    @Override
    public CallableImplementor call() throws Exception {
        //business logic goes here
        return this;
    }

    public boolean getResult() {
        return result;
    }

    public void setResult(boolean result) {
        this.result = result;
    }
}

0

У мене є клас корисності, який містить такі:

@FunctionalInterface
public interface CheckedSupplier<X> {
  X get() throws Throwable;
}

public static <X> Supplier<X> uncheckedSupplier(final CheckedSupplier<X> supplier) {
    return () -> {
        try {
            return supplier.get();
        } catch (final Throwable checkedException) {
            throw new IllegalStateException(checkedException);
        }
    };
}

Коли ви це зробите, використовуючи статичний імпорт, ви можете просто дочекатися всіх таких ф’ючерсів:

futures.stream().forEach(future -> uncheckedSupplier(future::get).get());

Ви також можете зібрати всі їх результати так:

List<MyResultType> results = futures.stream()
    .map(future -> uncheckedSupplier(future::get).get())
    .collect(Collectors.toList());

Просто переглядаю мою стару посаду і помічаючи, що у вас було ще одне горе:

Але проблема тут полягає в тому, якщо, наприклад, четверте майбутнє кине виняток, тоді я зайво чекатиму, коли будуть доступні перші 3 ф'ючерси.

У цьому випадку просте рішення зробити це паралельно:

futures.stream().parallel()
 .forEach(future -> uncheckedSupplier(future::get).get());

Таким чином, перший виняток, хоча і не зупинить майбутнього, порушить оператор forEach, як у серійному прикладі, але оскільки всі чекають паралельно, вам не доведеться чекати завершення перших 3.


0
import java.util.ArrayList;
import java.util.Iterator;
import java.util.List;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.Future;
import java.util.stream.Collectors;
import java.util.stream.Stream;

public class Stack2 {   
    public static void waitFor(List<Future<?>> futures) {
        List<Future<?>> futureCopies = new ArrayList<Future<?>>(futures);//contains features for which status has not been completed
        while (!futureCopies.isEmpty()) {//worst case :all task worked without exception, then this method should wait for all tasks
            Iterator<Future<?>> futureCopiesIterator = futureCopies.iterator();
            while (futureCopiesIterator.hasNext()) {
                Future<?> future = futureCopiesIterator.next();
                if (future.isDone()) {//already done
                    futureCopiesIterator.remove();
                    try {
                        future.get();// no longer waiting
                    } catch (InterruptedException e) {
                        //ignore
                        //only happen when current Thread interrupted
                    } catch (ExecutionException e) {
                        Throwable throwable = e.getCause();// real cause of exception
                        futureCopies.forEach(f -> f.cancel(true));//cancel other tasks that not completed
                        return;
                    }
                }
            }
        }
    }
    public static void main(String[] args) {
        ExecutorService executorService = Executors.newFixedThreadPool(3);

        Runnable runnable1 = new Runnable (){
            public void run(){
                try {
                    Thread.sleep(5000);
                } catch (InterruptedException e) {
                }
            }
        };
        Runnable runnable2 = new Runnable (){
            public void run(){
                try {
                    Thread.sleep(4000);
                } catch (InterruptedException e) {
                }
            }
        };


        Runnable fail = new Runnable (){
            public void run(){
                try {
                    Thread.sleep(1000);
                    throw new RuntimeException("bla bla bla");
                } catch (InterruptedException e) {
                }
            }
        };

        List<Future<?>> futures = Stream.of(runnable1,fail,runnable2)
                .map(executorService::submit)
                .collect(Collectors.toList());

        double start = System.nanoTime();
        waitFor(futures);
        double end = (System.nanoTime()-start)/1e9;
        System.out.println(end +" seconds");

    }
}
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.