2012年1月31日火曜日

[Android]tagSoup で Webスクレイピング

tagSoup はHTMLパーサー。
AndroidのWebViewでも使われているらしい。
ただ、APIは公開されていないので、外部jarとして登録して使いました。
jar は公式サイトから Download できます。
http://ccil.org/~cowan/XML/tagsoup/
サイズも100kb未満で経済的。

使い方が、ちんぷんかんぷん。
一度、挫折しかけました。

こちらのサイトを参照しながら何とか実装。
http://d.hatena.ne.jp/Retrorocket/20110905/1315214059
http://www.beach5.net/2011/11/androidhtml-2.html
http://nullmo.blog89.fc2.com/blog-entry-492.html

調べた限りだと方法は2つあります。
1.Transformして、タグネームでノードを取得する方法。


Transformer transformer = TransformerFactory.newInstance()
.newTransformer();
DOMResult result = new DOMResult();
transformer.transform(new SAXSource(reader, source), result);

Document doc = (Document) result.getNode();
NodeList childs = doc.getElementsByTagName("td");


2.Paerser にHandlerをセットして、パースしていく方法。

InputSource source = new InputSource(new InputStreamReader(in, "UTF-8"));
parser.setContentHandler(new TestHandler());
parser.parse(source);



private class TestHandler implements org.xml.sax.ContentHandler
    {
        @Override
        public void characters(char[] ch, int start, int length)
                throws SAXException
        {
        }

        @Override
        public void endDocument() throws SAXException
        {
        }

        @Override
        public void endElement(String uri, String localName, String qName)
                throws SAXException
        {
        }

        @Override
        public void startDocument() throws SAXException
        {
        }

        @Override
        public void startElement(String uri, String localName, String qName,
                Attributes atts) throws SAXException
        {
       }


個人的には、2が分かりやすかったです。
のコードをコピペしてログ出すとこんな感じです。
01-30 13:12:51.300: I/System.out(4577): startDocument
01-30 13:12:51.460: I/System.out(4577): startElement:<html> 
01-30 13:12:51.490: I/System.out(4577): startElement: <head> 
01-30 13:12:51.630: I/System.out(4577): startElement:  <meta>  [http-equiv=content-type] [content=text/html;charset=Shift_JIS]
01-30 13:12:51.640: I/System.out(4577): endElement  :  <meta>
01-30 13:12:51.721: I/System.out(4577): startElement:  <meta>  [name=generator]
01-30 13:12:51.740: I/System.out(4577): endElement  :  <meta>
01-30 13:12:51.780: I/System.out(4577): startElement:  <title> 
01-30 13:12:51.810: I/System.out(4577): characters  :   [あ~か行のお店]
01-30 13:12:51.840: I/System.out(4577): endElement  :  <title>
01-30 13:12:52.000: I/System.out(4577): startElement:  <meta>  [name=Description] [content=]
01-30 13:12:52.010: I/System.out(4577): endElement  :  <meta>
01-30 13:12:52.080: I/System.out(4577): startElement:  <meta>  [name=Keywords] [content=]
01-30 13:12:52.092: I/System.out(4577): endElement  :  <meta>
01-30 13:12:52.240: I/System.out(4577): startElement:  <meta>  [name=viewport] [content=width=device-width] [user-scalable=yes]
01-30 13:12:52.250: I/System.out(4577): endElement  :  <meta>
01-30 13:12:52.379: I/System.out(4577): startElement:  <meta>  [name=format-detection] [content=telephone=no]
01-30 13:12:52.389: I/System.out(4577): endElement  :  <meta>
01-30 13:12:52.519: I/System.out(4577): startElement:  <meta>  [name=apple-mobile-web-app-capable] [content=yes]
01-30 13:12:52.539: I/System.out(4577): endElement  :  <meta>
01-30 13:12:52.690: I/System.out(4577): startElement:  <meta>  [name=apple-mobile-web-app-status-bar-style] [content=default]
01-30 13:12:52.690: I/System.out(4577): endElement  :  <meta>
01-30 13:12:52.811: I/System.out(4577): startElement:  <link>  [rel=start] [href=/] [title=ホーム]

これを足がかりに実装すればok

2012年1月26日木曜日


AndroidでWebスクレイプしたHtmlを表示したくて、いろいろ試してみました。

WebViewに渡してやれば表示されるだろうと思ってたけど、
<img>タグで指定した画像が表示されなかったのです。
画像が?で表示されてしまう。

上がWebView
下がTextView

WebViewで<img>タグ使えないのかと勝手な思い込みで、
TextViewに表示してみることにしました。


表示させたいHtmlはこんな感じ。
// Header
String data = "<html><head><meta http-equiv=\"content-type\" content=\"text/html;charset=UTF-8\"></head>"; 
//<img>タグ
data += "<div><img src=\"http://3.bp.blogspot.com/-2wMCsaGbjZs/TYtTiejQmTI/AAAAAAAAAhI/MeZRZjvUX6c/s220/CIMG0998.JPG\"></div> ";
// <a>タグ
data += "<a href=\"http://gettingsignals.blogspot.com/\">gettingsignals</a>";


TextViewに画像表示するにはHtml.ImageGetter()を使います。


        TextView textView = (TextView)findViewById(R.id.textView);
        // <a>タグに対応
        MovementMethod movementmethod = LinkMovementMethod.getInstance();
        textView.setMovementMethod(movementmethod);
        // <img>タグのsrcに指定された画像urlから画像を取得
        textView.setText(Html.fromHtml(data, new Html.ImageGetter(){
            public Drawable getDrawable(String source){
                // img srcで指定されたURLからDrawable を取得する
            Drawable d = doGetDrawable(source);

                // 取得した元画像のサイズを取得し、表示画像のサイズとする
            if(d != null) {
               int w = d.getIntrinsicWidth();
               int h = d.getIntrinsicHeight();
               d.setBounds(0, 0, w, h);
            }
                
                return d;
            }
        }, null));


// Drawableを取得するメソッド
public static Drawable doGetDrawable( String url )
{
Drawable drawable = null;
   try
   {
       HttpGet method = new HttpGet( url );

       DefaultHttpClient client = new DefaultHttpClient();

       method.setHeader( "Connection", "Keep-Alive" );
       
       HttpResponse response = client.execute( method );
       int status = response.getStatusLine().getStatusCode();
       if ( status == HttpStatus.SC_OK ) {
        InputStream is = response.getEntity().getContent();
        drawable = Drawable.createFromStream(is, "");
        is.close();
       }
   }
   catch ( Exception e )
   {
    e.printStackTrace();
       return null;
   }
   return drawable;
}


実装完了。
で、試してみる。

UnknownHostException



AndroidManifest.xml にパーミッションの追加漏れ。。

<uses-permission android:name="android.permission.INTERNET"/>

もう一度、実行。
上がWebView
下がTextView

WebViewも表示されてる・・・。
単純にパーミッションの追加漏れが原因だったようです。


最後にWebViewのコード
        WebView webView = (WebView)findViewById(R.id.webView);
        webView.setWebViewClient(new WebViewClient() {});
        webView.getSettings().setJavaScriptEnabled(true);
        webView.getSettings().setPluginsEnabled( true );
// Headerはつけておくと文字化けとかしない。
        String data = "<html><head><meta http-equiv=\"content-type\" content=\"text/html;charset=UTF-8\"></head>"; 
    data += "<div><img src=\"http://3.bp.blogspot.com/-2wMCsaGbjZs/TYtTiejQmTI/AAAAAAAAAhI/MeZRZjvUX6c/s220/CIMG0998.JPG\"></div> ";
        data += "<a href=\"http://gettingsignals.blogspot.com/\">gettingsignals</a>";
// webView.loadData()でもいいけど、特定の文字(%とか)が含まれてると表示されないらしい。
        webView.loadDataWithBaseURL(null, data, "text/html", "UTF-8", null);

2012年1月20日金曜日

Androidでffmpegライブラリを組み込んでみた

という記事を投稿する予定です。

--
GettingSignals


(2012/3/21 追記)
なかなか記事にまとめられず、だんだん忘れてきてしまいました。
完全に忘れてしまう前にメモ残しときます。

libffmpeg.soをビルドパスに追加。
jniのソースにffmpeg.cを追加。
main関数の名前をパッケージ名に変換する
ndk-buildする
アプリ側から呼び出す

こんな流れです。だいぶ忘れてます。