convert a couple of arrays to sets for labels

This fixes some crashes when using 'l' in thread-view-mode that
have been present since commit 7aea418a8a62b7070eee764475fcfc0bdd8d58dd
("maintain labels as Sets rather than arrays").

minor misc code tweaks

have mbox, maildir and imap sources (de)serialize labels nicely

At output time, rather than emitting a YAML Set (which is nasty), emit an array
of strings. At input time, normalize into a Set of labels.

add hooks for before- and after- yaml marshalling

minor code style tweaks and whitespace removals

refactor index access into three methods and rewrite PollManager#each_message_from

Couple big changes in this commit, but they're all tied together.

Index.sync_message is refactored into three separate methods: add_message,
update_message and update_message_state. The intention is that add_message is
called for new messages only, update_message is called for changing the method
body on disk (e.g. when we see multiple copies of the same message, or by
DraftManager when the text of a draft is changes), and update_message_state is
called when the labels on a message change. So indexes that differentiate those
operations can exhibit more natural performance characteristics.

Also, PollManager.add_messages_from has been renamed to each_message_from and
changed significantly. It now *only* yields successive messages; it does not
load the index version of the message, and it does not auto-add the message to
the index.  (In fact, it ignores the result of the block.) There's also a new
method called add_new_message that calls Index.add_message and then relays the
update to other GUI elements.

There was a lot of refactoring of sup-sync that was part of this. Probably
not strictly necessary but it was too hard to untangle the changes.

maintain labels as Sets rather than arrays

when writing mbox files, output From_ line date as utc

Otherwise, parsing the From_ lines later will fail!

move xapian index loading into load_index

allow sup-sync to use --start-at with --restored

port ezyang@mit.edu's chattyness patch over to xapian/ferret split

xapian: drop excessively long terms

Merge branch 'xapian'

Conflicts:
lib/sup/index.rb

xapian: fix issue with empty ferret query

xapian: fix MAX_DATE

explicitly load messages in testcase

make logging less chatty

Signed-off-by: Edward Z. Yang <ezyang@mit.edu>

fix broken arrow keypresses after shelling out

Signed-off-by: Edward Z. Yang <ezyang@mit.edu>

Use /etc/mailname if present to determine the hostname for Message-Id

Signed-off-by: Adeodato Simó <dato@net.com.org.es>

easy_decode now also catches InvalidCharacter

Unbreak "bounce-command" hook (was referencing an nonexistent variable)

Signed-off-by: Adeodato Simó <dato@net.com.org.es>

xapian: dont exclude spam/etc in some internal searches

xapian: initialize sources in sup-dump

xapian: fix mk_addrs args in build_message

bugfix: dates need to be truncated for xapian to index

If dates are way out of range, the current indexing process both dies
and generates bad doc ids. This patch forces dates to be within a
reasonable range (current between 1969 and 2038.) Not necessarily the
best solution.

explicitly load index version, for better error messages

Catching the LoadError was masking errors from not having dependent
library like xapian and gdbm. This change makes the error messages
reflect what's actually missing. Since we're adding index types at
roughly once every 3 years, an explicit list like this shouldn't be too
difficult to maintain.

dont using SavingHash#[] for membership test

add limit argument to author_names_and_newness_for_thread

fix String#ord monkeypatch

index: add xapian implementation

index: choose index implementation with config entry or environment variable

add Message.indexable_{body, chunks, subject}

remove last external uses of ferret docid

index: move Ferret-specific code to ferret_index.rb

index: make wrap_subj methods private

index: revert overeager opts->query rename in each_message_in_thread_for

index: remove unused method fresh_thread_id

move source-related methods to SourceManager

index: move has_any_from_source_with_label? to sup-sync-back

switch DraftManager to use Message.build_from_source

index: remove unused method load_entry_for_id

remove ferret entry from poll/sync interface

This leads to an extra index lookup in the sup-sync update path, but I think
it's worth it for the sake of API simplicity.

remove load_entry_for_id call in DraftManager.discard

remove load_entry_for_id call in sup-recover-sources

index: consistent naming

Replaced use of run_query with each_docid
Rename instances of ferret query objects to 'ferret_query'
Rename 'build_query' to 'build_ferret_query'
Rename hashes passed to index methods to 'query'
Rename 'parse_user_query_string' to 'parse_query'
Change 'parse_query' to return a query hash
Rename 'drop_entry' to 'delete' and modify callers to pass msgid

index: cleanup interface

Added the public methods 'each_docid', 'each_message', and 'optimize' to the
index. Removed the 'index' and 'ferret' accessors and modified their callers to
use the new methods. Bonus fixes: sup-dump no longer skips the first message
and sup_sync --start_at can now delete unseen messages.

fix another missing part of a previous merge

fix missing part of a previous merge

Merge commit 'bwalton/bw/flexible_sent'

Conflicts:

lib/sup/poll.rb
lib/sup/sent.rb

Merge commit 'bwalton/bw/bounce_message'

Merge branch 'labels-before-subj'

bugfix: correct time format in sent message mbox

Use Time#asctime. Otherwise for strange locales, the mbox format is
not quite right and the splitter won't be able to read it!

remove warnings about RE_UTF8

fixes for ruby1.9

Change colons in case statements to 'then'
Fix a block that didn't take enough arguments
Rename variables to avoid shadowing warnings
Use String.ord (and define it for 1.8)
Use DL::Importer on 1.9
Make require 'fastthread' optional
Copy in RE_UTF8

update changelog and releasenotes for 0.8.1

make multibyte display "work" for non-utf8 locales

A nasty hack, but fixes a previous utf8-centric change.

fix reply-mode always selecting "Customized"

Since an earlier patch changed parse_headers, or something, the emitted header
needs to have the correct case.

reduce quote parsing worst-case behavior

Split a quote regex into two to increase performance on certain long strings.

Thanks to Edward Z. Yang.

Bounce Message Hook

Determine the command used to bounce a message based on a Hook instead
of a configuration option.  Instead of writing an external script that
can send the message properly based on the recipient addresses, rely
on a hook that can return the command based on the From header in the
mail being bounced as well as the intended recipients.  This is more
in line with the sup philosophy.

The default is still to strip any -t from the sendmail command of the
default account.

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

Add message bouncing capability

Bouncing a message is akin to redirecting a mail with a .forward
entry.  It is passed back to the mail system as it sits on disk.

By pressing ! while viewing a message, you can now re-inject it to the
mail system using either the command defined in bounce_sendmail or the
sendmail command for the default account with any instance of -t
removed. The user is prompted for the recipients of the message and is
offered a chance to confirm the bounce before it is sent.

The message is _not_ stored in the sent box, as this doesn't make
sense with bounced messages (and would not show up uniquely anyway).

The bounce_sendmail configuration item allows users that require
different sendmail commands depending on where the bounce is destined
to write a wrapper around their local mail tools to pick and choose
the appropriate injection method for the message based on the
addresses passed in.  Most systems can likely use: sendmail -oem -i

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

update documentation to be slightly less out of date

add sup-announce list info to webpage

update changelog, etc for 0.8 release

don't jump to the next open message when expanding

When pressing enter to expand an entire message, don't jump to the next
open message. Only jump when you've collapsed the message.

Add V to view a raw message (headers and body).

This is an augment of the already existing view header (H) command,
but allows viewing of all mime parts in their raw form, etc.

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

make enter collapse current message in thread-view-mode

Pressing enter while over a text region in thread-view-mode will now
collapse the current message and move the cursor to the next open
message. (Behavior on quoted regions, sigs, attachments, etc. is
unchanged.)

This means that you can scan through a thread pretty rapidly by pressing
enter if you want to collapse the current message, or 'n' if you want
to keep it open.

remove vestigal Iconv.normalize method

handle nil charset on attachments

refactor iconv stuff, and normalize message body and headers

- Message body and headers are now normalized to the current encoding.
  This should limit the amount of unprintable characters on the screen.
- No more MessageFormatError (was never being thrown anyways).
- Move exception handling to Iconv.easy_decode
- No more Message#convert_from, since Iconv.easy_decode does it all now.

yet another utf8 bugfix: fix string subsetting

... with a HORRIBLE SLOW HACK!

minor display_length optimization

Use rake/packagegemtask

Add back tarball task

move rfc2047 require to proper place

utf8 bugfix: clear lines correctly

String#display_length must be used when clearing to the right of lines.

minor display optimization

Don't blank to the right unless this is the last thing we're drawing
in the line.

Not sure how much of a speedup this will give, if any, but hey, precious
milliseconds.

Collapse attr_reader lines

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

Small cleanup: Don't use $config in main code.

Switched use of $config[:sent_source] to SentManager.source_uri
to keep $config use limited to startup/initialization.

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

Sent label handling change

Make PollManager add the 'sent' label if the source it's collecting
messages from is the configured sent source.  Remove the sent label
from SentLoader, which makes it even less 'special.'

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

sup-config: add awareness of non-default sent source

The user is now prompted to select a source to store sent mail in.
Only sources that are capable of storing mail are presented.  The
default sup://sent is available as an option too.

SentManager: rework handling to allow for user specified source

* The handling of SentManager now allows for a parameter in config.yaml
  called sent_source.  This parameter should be the URI of the source
  that the users wishes to store outbound mail in.

* The default is sup://sent

* A FatalSourceError is raised in the event that sent_source is
  set to a source type that doesn't support the store_message() method.

* SentManager and SentLoader have been somewhat decoupled.

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

Add store_message to IMAP, mbox and Maildir sources.

With this method, each of the named source types is now capable of
acting as a destination for sent mail.

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

minor update of undo message for labeling one thread

Merge branch 'parser-user-query-fix'

Merge commit 'origin/utf8-fixes'

Merge commit 'origin/undo-manager'

Conflicts:

lib/sup/modes/thread-index-mode.rb

Merge commit 'origin/various-mbox-fixes'

Conflicts:

lib/sup/mbox.rb
test/test_mbox_parsing.rb

Merge commit 'origin/scanning-speedups'

Conflicts:

bin/sup-sync
lib/sup/index.rb

put labels before subject in thread index view

This patch is probably controversial, and I expect it
to be rejected.  But I really like the way Gmail puts
the labels before the subject, and I've duplicated that here.
It helps out at work, where subject lines tend to be very
long, pushing the labels past the right edge of the window.

Remove duplicate line

Standardize on backquotes for program invocations, single quotes for keypresses, and double-quotes for everything else

Minor typo fix

Correct "Appending A" to "Appendix A"

enforce label uniqueness and internedness

This fixes some bugs where sources have an "inbox" label specified, which
was previously treated as different from the auto-applied :inbox label, etc.

minor comment tweak

fencepost bug: thread size wrong in log

remove debugging change

bugfix: use 64 colors, not 16

more display_length changes

fix display of utf8 characters so that widths are correct

Based on a patch from Einar Lielmanis <einars@gmail.com>

mime-encode utf8 addressess and subjects in outgoing mail

Based heavily on a patch from Helge Titlestad <helgedt@tihlde.org>.