Запитання з тегом «explainable-ai»

Чи знають вчені чи дослідники з кухні, що відбувається всередині складної "глибокої" нейромережі, принаймні мільйони з'єднань спрацьовують миттєво? Чи розуміють вони процес, що стоїть за цим (наприклад, що відбувається всередині і як саме воно працює), або це предмет дискусії? Наприклад, це дослідження говорить: Однак немає чіткого розуміння того, чому вони …

69 neural-networks  deep-learning  convolutional-neural-networks  explainable-ai 

Якщо початковою метою розвитку ШІ було допомогти людині у виконанні деяких завдань, і ця мета все-таки дотримується, чому ми повинні дбати про її пояснення? Наприклад, при глибокому навчанні, доки інтелект допомагає нам якнайкраще їх здібності і ретельно приймає свої рішення, чому ми повинні знати, як працює його інтелект?

56 philosophy  explainable-ai