Деякі факти:
Google пропонує API веб-сервісу для публічного пошуку, який повертає JSON : http://ajax.googleapis.com/ajax/services/search/web . Документація тут
Java пропонує java.net.URLі java.net.URLConnectionзапускати та обробляти HTTP-запити.
JSON в Java може бути перетворений на повноцінний об'єкт Javabean за допомогою довільного API Java JSON. Один з найкращих - Google Gson .
Тепер зробіть математику:
public static void main(String[] args) throws Exception {
String google = "http://ajax.googleapis.com/ajax/services/search/web?v=1.0&q=";
String search = "stackoverflow";
String charset = "UTF-8";
URL url = new URL(google + URLEncoder.encode(search, charset));
Reader reader = new InputStreamReader(url.openStream(), charset);
GoogleResults results = new Gson().fromJson(reader, GoogleResults.class);
// Show title and URL of 1st result.
System.out.println(results.getResponseData().getResults().get(0).getTitle());
System.out.println(results.getResponseData().getResults().get(0).getUrl());
}
Цей клас Javabean представляє найважливіші дані JSON, повернені Google (він фактично повертає більше даних, але вам належить вправі відповідно розширити цей код Javabean):
public class GoogleResults {
private ResponseData responseData;
public ResponseData getResponseData() { return responseData; }
public void setResponseData(ResponseData responseData) { this.responseData = responseData; }
public String toString() { return "ResponseData[" + responseData + "]"; }
static class ResponseData {
private List<Result> results;
public List<Result> getResults() { return results; }
public void setResults(List<Result> results) { this.results = results; }
public String toString() { return "Results[" + results + "]"; }
}
static class Result {
private String url;
private String title;
public String getUrl() { return url; }
public String getTitle() { return title; }
public void setUrl(String url) { this.url = url; }
public void setTitle(String title) { this.title = title; }
public String toString() { return "Result[url:" + url +",title:" + title + "]"; }
}
}
Дивитися також:
Оновлення з листопада 2010 року (через 2 місяці після вищезазначеної відповіді) веб- сервіс загальнодоступних пошукових запитів застарів (і останній день, коли пропонували послугу, був 29 вересня 2014 року). Ваша найкраща ставка зараз запитує http://www.google.com/search безпосередньо разом із сумлінним користувальницьким агентом, а потім аналізує результат за допомогою HTML-аналізатора . Якщо ви опустите користувальницький агент, ви отримаєте 403 назад. Якщо ви лежите в користувальницькому агенті та імітуєте веб-браузер (наприклад, Chrome або Firefox), то ви отримаєте набагато більший відповідь HTML, що є марною пропускною здатністю та продуктивністю.
Ось приклад запуску з використанням Jsoup як HTML-аналізатора:
String google = "http://www.google.com/search?q=";
String search = "stackoverflow";
String charset = "UTF-8";
String userAgent = "ExampleBot 1.0 (+http://example.com/bot)"; // Change this to your company's name and bot homepage!
Elements links = Jsoup.connect(google + URLEncoder.encode(search, charset)).userAgent(userAgent).get().select(".g>.r>a");
for (Element link : links) {
String title = link.text();
String url = link.absUrl("href"); // Google returns URLs in format "http://www.google.com/url?q=<url>&sa=U&ei=<someKey>".
url = URLDecoder.decode(url.substring(url.indexOf('=') + 1, url.indexOf('&')), "UTF-8");
if (!url.startsWith("http")) {
continue; // Ads/news/etc.
}
System.out.println("Title: " + title);
System.out.println("URL: " + url);
}