У нас були серйозні проблеми з (неймовірно) погано написаним павуком Yahoo в минулому , і в результаті ми їх заблокували. Марко Армент з Tumblr також поділився з нами своїми розчаруваннями 31.08.2009, що було фактором, який нас блокував.
[Павук Yahoo] наповнює нас 70-200 запитами / секунду приблизно з 5:30 ранку EST. Я ніколи не бачив нічого подібного, навіть від їхніх шахрайських «експериментальних» сканерів, які зловживали нами в минулому. Забору Robots.txt недостатньо: мені потрібно заблокувати їх IP на рівні балансира навантаження. Оскільки в минулому вони зловживавали переповненням стека, я подумав, що ви можете знати.
Схоже, пошук в Yahoo в Інтернеті - "Powered by Bing!" зараз. Це добре, тому що у нас ніколи не було проблем з павуком Бінга (він же MSNBOT).
Отже, чи пошук Yahoo такий самий, як зараз у пошуку Bing, чи ми повинні шукати розблокування їх, якщо вони якось проти всіх шансів перестали смоктати так сильно?