Cách tối ưu hóa việc sử dụng lưu lượng truy cập trình duyệt của bạn nhiều nhất?

import puppeteer from 'puppeteer-core';

const scrapelessUrl = 'wss://browser.scrapeless.com/browser?token=your_api_key&session_ttl=180&proxy_country=ANY';

async function scrapeWithResourceBlocking(url) {
    const browser = await puppeteer.connect({
        browserWSEndpoint: scrapelessUrl,
        defaultViewport: null
    });
    const page = await browser.newPage();

    // Kích hoạt chặn yêu cầu
    await page.setRequestInterception(true);

    // Định nghĩa các loại tài nguyên cần chặn
    const BLOCKED_TYPES = new Set([
        'image',
        'font',
        'media',
        'stylesheet',
    ]);

    // Chặn các yêu cầu
    page.on('request', (request) => {
        if (BLOCKED_TYPES.has(request.resourceType())) {
            request.abort();
            console.log(`Đã chặn: ${request.resourceType()} - ${request.url().substring(0, 50)}...`);
        } else {
            request.continue();
        }
    });

    await page.goto(url, {waitUntil: 'domcontentloaded'});

    // Trích xuất dữ liệu
    const data = await page.evaluate(() => {
        return {
            title: document.title,
            content: document.body.innerText.substring(0, 1000)
        };
    });

    await browser.close();
    return data;
}

// Sử dụng
scrapeWithResourceBlocking('https://www.scrapeless.com')

.then(data => console.log('Kết quả thu thập dữ liệu:', data))
    .catch(error => console.error('Thu thập dữ liệu không thành công:', error));

import puppeteer from 'puppeteer-core';

const scrapelessUrl = 'wss://browser.scrapeless.com/browser?token=your_api_key&session_ttl=180&proxy_country=ANY';

async function scrapeWithUrlBlocking(url) {
    const browser = await puppeteer.connect({
        browserWSEndpoint: scrapelessUrl,
        defaultViewport: null
    });
    const page = await browser.newPage();

    // Bật chặn yêu cầu
    await page.setRequestInterception(true);

    // Xác định các miền và mẫu URL cần chặn
    const BLOCKED_DOMAINS = [
        'google-analytics.com',
        'googletagmanager.com',
        'doubleclick.net',
        'facebook.net',
        'twitter.com',
        'linkedin.com',
        'adservice.google.com',
    ];

    const BLOCKED_PATHS = [
        '/ads/',
        '/analytics/',
        '/pixel/',
        '/tracking/',
        '/stats/',
    ];

    // Chặn các yêu cầu
    page.on('request', (request) => {
        const url = request.url();

        // Kiểm tra miền
        if (BLOCKED_DOMAINS.some(domain => url.includes(domain))) {
            request.abort();
            console.log(`Chặn miền: ${url.substring(0, 50)}...`);
            return;
        }

        // Kiểm tra đường dẫn
        if (BLOCKED_PATHS.some(path => url.includes(path))) {
            request.abort();
            console.log(`Chặn đường dẫn: ${url.substring(0, 50)}...`);
            return;
        }

        // Cho phép các yêu cầu khác
        request.continue();
    });

    await page.goto(url, {waitUntil: 'domcontentloaded'});

    // Trích xuất dữ liệu
    const data = await page.evaluate(() => {
        return {
            title: document.title,
            content: document.body.innerText.substring(0, 1000)
        };
    });

    await browser.close();
    return data;
}

// Sử dụng
scrapeWithUrlBlocking('https://www.scrapeless.com')
    .then(data => console.log('Kết quả thu thập dữ liệu:', data))
    .catch(error => console.error('Thu thập dữ liệu không thành công:', error));

const iPhoneX = {
    viewport: {
        width: 375,
        height: 812,
        deviceScaleFactor: 3,
        isMobile: true,
        hasTouch: true,
        isLandscape: false
    }
};

import { KnownDevices } from 'puppeteer-core';
const iPhone = KnownDevices['iPhone 15 Pro'];

const trình duyệt = await puppeteer.launch();
const trang = await trình duyệt.newPage();
await trang.emulate(iPhone);

import puppeteer, {KnownDevices} from 'puppeteer-core';

const scrapelessUrl = 'wss://browser.scrapeless.com/browser?token=your_api_key&session_ttl=180&proxy_country=ANY';

async function scrapeWithMobileEmulation(url) {
    const trình duyệt = await puppeteer.connect({
        browserWSEndpoint: scrapelessUrl,
        defaultViewport: null
    });

    const trang = await trình duyệt.newPage();

    // Thiết lập mô phỏng thiết bị di động
    const iPhone = KnownDevices['iPhone 15 Pro'];
    await trang.emulate(iPhone);

    await trang.goto(url, {waitUntil: 'domcontentloaded'});
    // Trích xuất dữ liệu
    const dữ liệu = await trang.evaluate(() => {
        return {
            title: document.title,
            content: document.body.innerText.substring(0, 1000)
        };
    });

    await trình duyệt.close();
    return dữ liệu;
}

// Sử dụng
scrapeWithMobileEmulation('https://www.scrapeless.com')
    .then(dữ liệu => console.log('Kết quả thu thập:', dữ liệu))
    .catch(error => console.error('Thu thập thất bại:', error));

import puppeteer, {KnownDevices} from 'puppeteer-core';

const scrapelessUrl = 'wss://browser.scrapeless.com/browser?token=your_api_key&session_ttl=180&proxy_country=ANY';

async function optimizedScraping(url) {
    console.log(`Bắt đầu thu thập tối ưu: ${url}`);

    // Ghi lại mức sử dụng lưu lượng
    let tổngBytesĐãSửDụng = 0;

    const trình duyệt = await puppeteer.connect({
        browserWSEndpoint: scrapelessUrl,
        defaultViewport: null
    });

    const trang = await trình duyệt.newPage();

    // Thiết lập mô phỏng thiết bị di động
    const iPhone = KnownDevices['iPhone 15 Pro'];
    await trang.emulate(iPhone);

    // Thiết lập chặn yêu cầu
    await trang.setRequestInterception(true);

    // Xác định loại tài nguyên cần chặn
    const LOẠI_BỊ_CHẶN = [
        'image',
        'media',
        'font'
    ];

    // Xác định miền cần chặn
    const MIỀN_BỊ_CHẶN = [
        'google-analytics.com',
        'googletagmanager.com',
        'facebook.net',
        'doubleclick.net',
        'adservice.google.com'
    ];

    // Xác định đường dẫn URL cần chặn
    const ĐƯỜNG_DẪN_BỊ_CHẶN = [
        '/ads/',
        '/analytics/',
        '/tracking/'
    ];

    // Chặn các yêu cầu
    trang.on('request', (request) => {
        const url = request.url();
        const loạiTàiNguyên = request.resourceType();

        // Kiểm tra loại tài nguyên
        if (LOẠI_BỊ_CHẶN.includes(loạiTàiNguyên)) {
            console.log(`Chặn loại tài nguyên: ${loạiTàiNguyên} - ${url.substring(0, 50)}...`);
            request.abort();
            return;
        }

        // Kiểm tra miền
        if (MIỀN_BỊ_CHẶN.some(miền => url.includes(miền))) {
            console.log(`Chặn miền: ${url.substring(0, 50)}...`);
            request.abort();
            return;
        }

        // Kiểm tra đường dẫn
        if (ĐƯỜNG_DẪN_BỊ_CHẶN.some(đườngDẫn => url.includes(đườngDẫn))) {
            console.log(`Chặn đường dẫn: ${url.substring(0, 50)}...`);
            request.abort();
            return;
        }

        // Cho phép các yêu cầu khác
        request.continue();
    });

    // Giám sát lưu lượng mạng
    trang.on('response', async (response) => {
        const headers = response.headers();
        const độDàiNộiDung = headers['content-length'] ? parseInt(headers['content-length'], 10) : 0;
        tổngBytesĐãSửDụng += độDàiNộiDung;
    });

    await trang.goto(url, {waitUntil: 'domcontentloaded'});

    // Giả lập cuộn để kích hoạt nội dung tải lười
    await trang.evaluate(() => {
        window.scrollBy(0, window.innerHeight);
    });

    await new Promise(resolve => setTimeout(resolve, 1000))

    // Trích xuất dữ liệu
    const dữ liệu = await trang.evaluate(() => {
        return {
            title: document.title,
            content: document.body.innerText.substring(0, 1000),
            links: Array.from(document.querySelectorAll('a')).slice(0, 10).map(a => ({
                text: a.innerText,
                href: a.href
            }))
        };
    });

    // Xuất thống kê sử dụng lưu lượng
    console.log(`\nThống kê Sử dụng Lưu lượng:`);
    console.log(`Đã sử dụng: ${(tổngBytesĐãSửDụng / 1024 / 1024).toFixed(2)} MB`);

    await trình duyệt.close();
    return dữ liệu;
}

// Sử dụng
optimizedScraping('https://www.scrapeless.com')
    .then(dữ liệu => console.log('Hoàn thành thu thập:', dữ liệu))
    .catch(error => console.error('Thu thập thất bại:', error));

import puppeteer from 'puppeteer-core';

const scrapelessUrl = 'wss://browser.scrapeless.com/browser?token=your_api_key&session_ttl=180&proxy_country=ANY';

async function optimizedScraping(url) {
  console.log(`Bắt đầu lấy dữ liệu tối ưu: ${url}`);

  // Ghi lại mức sử dụng lưu lượng
  let totalBytesUsed = 0;

  const browser = await puppeteer.connect({
    browserWSEndpoint: scrapelessUrl,
    defaultViewport: null
  });

  const page = await browser.newPage();

  // Đặt chặn yêu cầu
  await page.setRequestInterception(true);

  // Chặn các yêu cầu
  page.on('request', (request) => {
    request.continue();
  });

  // Giám sát lưu lượng mạng
  page.on('response', async (response) => {
    const headers = response.headers();
    const contentLength = headers['content-length'] ? parseInt(headers['content-length'], 10) : 0;
    totalBytesUsed += contentLength;
  });

  await page.goto(url, {waitUntil: 'domcontentloaded'});

  // Mô phỏng cuộn để kích hoạt nạp nội dung lười
  await page.evaluate(() => {
    window.scrollBy(0, window.innerHeight);
  });

  await new Promise(resolve => setTimeout(resolve, 1000))

  // Trích xuất dữ liệu
  const data = await page.evaluate(() => {
    return {
      title: document.title,
      content: document.body.innerText.substring(0, 1000),
      links: Array.from(document.querySelectorAll('a')).slice(0, 10).map(a => ({
        text: a.innerText,
        href: a.href
      }))
    };
  });

  // Xuất thông tin thống kê mức sử dụng lưu lượng
  console.log(`\nThống kê mức sử dụng lưu lượng:`);
  console.log(`Đã sử dụng: ${(totalBytesUsed / 1024 / 1024).toFixed(2)} MB`);

  await browser.close();
  return data;
}

// Sử dụng
optimizedScraping('https://www.scrapeless.com')
  .then(data => console.log('Lấy dữ liệu hoàn tất:', data))
  .catch(error => console.error('Lấy dữ liệu thất bại:', error));