add updateHTTPPage function
This commit is contained in:
+1
-3
@@ -68,9 +68,7 @@ func UpdatePage(p *core.Page) error {
|
|||||||
case "gemini":
|
case "gemini":
|
||||||
return updateGeminiPage(p)
|
return updateGeminiPage(p)
|
||||||
case "http", "https":
|
case "http", "https":
|
||||||
// return updateHTTPPage(p)
|
return updateHTTPPage(p)
|
||||||
// TODO
|
|
||||||
fallthrough
|
|
||||||
case "gopher", "gophers":
|
case "gopher", "gophers":
|
||||||
// return updateGopherPage(p)
|
// return updateGopherPage(p)
|
||||||
// TODO
|
// TODO
|
||||||
|
|||||||
+21
-10
@@ -76,24 +76,35 @@ func newHTTPFeed(remoteURL *url.URL, title string) (*core.Feed, error) {
|
|||||||
|
|
||||||
// newHTTPPage will create a new core.Page given an http url
|
// newHTTPPage will create a new core.Page given an http url
|
||||||
func newHTTPPage(remoteURL *url.URL, title string) (*core.Page, error) {
|
func newHTTPPage(remoteURL *url.URL, title string) (*core.Page, error) {
|
||||||
resp, err := fetchHTTP(remoteURL)
|
var page core.Page
|
||||||
|
page.Title = title
|
||||||
|
page.Link = remoteURL
|
||||||
|
|
||||||
|
err := updateHTTPPage(&page)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return nil, err
|
return nil, err
|
||||||
}
|
}
|
||||||
|
return &page, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
// updateHTTPPage will check an existing core.Page for changes
|
||||||
|
func updateHTTPPage(p *core.Page) error {
|
||||||
|
resp, err := fetchHTTP(p.Link)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
defer resp.Body.Close()
|
defer resp.Body.Close()
|
||||||
|
|
||||||
reader := io.LimitReader(resp.Body, 1073741824) // 1 GiB
|
reader := io.LimitReader(resp.Body, 1073741824) // 1 GiB
|
||||||
|
|
||||||
var page core.Page
|
|
||||||
page.Title = title
|
|
||||||
page.Link = remoteURL
|
|
||||||
page.Updated = time.Now()
|
|
||||||
|
|
||||||
h := sha256.New()
|
h := sha256.New()
|
||||||
if _, err := io.Copy(h, reader); err != nil {
|
if _, err := io.Copy(h, reader); err != nil {
|
||||||
return nil, err
|
return err
|
||||||
}
|
}
|
||||||
page.Hash = fmt.Sprintf("%x", h.Sum(nil))
|
newHash := fmt.Sprintf("%x", h.Sum(nil))
|
||||||
|
if newHash != p.Hash {
|
||||||
return &page, nil
|
p.Hash = newHash
|
||||||
|
p.Updated = time.Now()
|
||||||
|
}
|
||||||
|
return nil
|
||||||
}
|
}
|
||||||
|
|||||||
Reference in New Issue
Block a user