創(chuàng)新互聯(lián)www.cdcxhl.cn八線動態(tài)BGP香港云服務器提供商，新人活動買多久送多久，劃算不套路！

為灞橋等地區(qū)用戶提供了全套網頁設計制作服務，及灞橋網站建設行業(yè)解決方案。主營業(yè)務為網站建設、網站制作、灞橋網站設計，以傳統(tǒng)方式定制建設網站，并提供域名空間備案等一條龍服務，秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務。我們深信只要達到每一位用戶的要求，就會得到認可，從而選擇與我們長期合作。這樣，我們也可以走得更遠！

最近弄爬蟲，遇到的一個問題就是如何使用post方法模擬登陸爬取網頁。

下面是極簡版的代碼：

import java.io.BufferedReader;
import java.io.InputStreamReader;
import java.io.OutputStreamWriter;
import java.io.PrintWriter;

import java.net.HttpURLConnection;
import java.net.URL;

import java.util.HashMap;

public class test {

 //post請求地址
 private static final String POST_URL = "";
 
 //模擬谷歌瀏覽器請求
 private static final String USER_AGENT = "";
 
 //用賬號登錄某網站后 請求POST_URL鏈接獲取cookie
 private static final String COOKIE = "";
 
 //用賬號登錄某網站后 請求POST_URL鏈接獲取數據包
 private static final String REQUEST_DATA = "";
 
 public static void main(String[] args) throws Exception {
  HashMap<String, String> map = postCapture(REQUEST_DATA);
  String responseCode = map.get("responseCode");
  String value = map.get("value");
  
  while(!responseCode.equals("200")){
   map = postCapture(REQUEST_DATA);
   responseCode = map.get("responseCode");
   value = map.get("value");
  }
  
  //打印爬取結果
  System.out.println(value);
 }
 
 private static HashMap<String, String> postCapture(String requestData) throws Exception{
  HashMap<String, String> map = new HashMap<>();
  
  URL url = new URL(POST_URL);
  HttpURLConnection httpConn = (HttpURLConnection) url.openConnection();
  httpConn.setDoInput(true); // 設置輸入流采用字節(jié)流
  httpConn.setDoOutput(true); // 設置輸出流采用字節(jié)流
  httpConn.setUseCaches(false); //設置緩存
  httpConn.setRequestMethod("POST");//POST請求
  httpConn.setRequestProperty("User-Agent", USER_AGENT);
  httpConn.setRequestProperty("Cookie", COOKIE);
  
  PrintWriter out = new PrintWriter(new OutputStreamWriter(httpConn.getOutputStream(), "UTF-8"));
  out.println(requestData);
  out.close();

  int responseCode = httpConn.getResponseCode();
  StringBuffer buffer = new StringBuffer();
  if (responseCode == 200) {
   BufferedReader reader = new BufferedReader(new InputStreamReader(httpConn.getInputStream(), "UTF-8"));
   String line = null;
   while ((line = reader.readLine()) != null) {
    buffer.append(line);
   }
   reader.close();
   httpConn.disconnect();
  }
  
  map.put("responseCode", new Integer(responseCode).toString());
  map.put("value", buffer.toString());
  return map;
 }

}

網頁標題：使用Post方法模擬登陸爬取網頁的實現方法-創(chuàng)新互聯(lián)
URL網址：http://sd-ha.com/article8/pipip.html

成都網站建設公司_創(chuàng)新互聯(lián)，為您提供Google、定制網站、微信公眾號、電子商務、ChatGPT、微信小程序

廣告

聲明：本網站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)