Merge branch 'utf8-fixes' into next

more display_length changes

fix display of utf8 characters so that widths are correct

Based on a patch from Einar Lielmanis <einars@gmail.com>

mime-encode utf8 addressess and subjects in outgoing mail

Based heavily on a patch from Helge Titlestad <helgedt@tihlde.org>.

Merge commit 'origin/sup-sync-improvements'

Merge branch 'master' into next

bugfix: label counts not set correctly on new messages

New labels were being deleted when label-list-mode was brought
up before they were sync'ed to disk. This fixes that, although
this whole thing should be changed. (See comments.)

Merge branch 'parser-user-query-fix' into next

Merge branch 'master' into next

add a --very-verbose option to sup-tweak-labels

make a Index#run_query method, update sup-tweak-labels

Index#run_query is now a way of running a query through Sup's
query-parsing and execution framework without being in a
curses context.

make parse_user_query_string raise exceptions on error

I.e. instead of flashing an error message. This makes it usable from
non-curses contexts, e.g. sup-tweak-labels.

Merge branch 'master' into next

chmod a+x bin/*

The files in there are all executables, and this simplifies running sup
in-tree.

Chronic context fix

Chronic should use a context of :past for email date searches as emails
tend to be in the past. This fixes a problem when the wrong year is
guessed. To search for emails in the future you now need to be less
ambiguous (1 apr 2099 instead of 1 apr).

Merge commit 'origin/string-split-fixes'

Merge commit 'origin/edit-message-mode-longname'

Merge branch 'better-buffer-list'

Merge commit 'origin/labels-rework'

Merge branch 'zsh-completion'

Merge branch 'dlload-bugfix'

Merge branch 'undo-manager' into next

Conflicts:

lib/sup/modes/thread-index-mode.rb

Merge branch 'various-mbox-fixes' into next

Conflicts:

lib/sup/mbox.rb
test/test_mbox_parsing.rb

Merge branch 'master' into next

clean up undo logic

Various changes:
- Use UndoManager#register block form where possible
- Clean up pluralization code
- Clean up undo return values
- Minor logic fixes

Still some work to do here to make undo lambda returning
more consistent.

make UndoManager#register take a block

Also clean up logging messages, argument handling, etc.

minor bugfix: rubymail sometimes returns a nil content_type

check for a correct date on mbox From lines

Determine a splitting line by looking for a From, a something else,
and a parseable date.

make the default MBox start offset be 0, not nil

This makes writing unit tests easier.

make MBox::Loader#next return nil once EOF is hit

Previously it was raising a debugging exception. This is a better
interface for writing unit tests against.

Merge branch 'string-split-fixes' into next

Conflicts:
lib/sup/index.rb

Merge branch 'master' into next

bugfix: further fixing of split usage

Clean up a couple remaining non-optimal uses of String#split.

bugfix: index label parsing code incorrect

Apparently split(/\s+/) is significantly different from split (which is
equivalent to split(" ")) in at least one case:

>> " a b  c   ".split(/\s+/)
=> ["", "a", "b", "c"]
>> " a b  c   ".split
=> ["a", "b", "c"]

This patch refactors the majority of uses of split(/\s+/) to a String#symbolize
method, which is correct.

minor: remove ucfirst (use capitalize instead)

Merge branch 'better-buffer-list' into next

Keymap: improve behaviour of apply to tagged in thread index

Make = a synonym for + in the thread index mode so that shift isn't
required to apply an action to all tagged messages.

Signed-off-by: Ben Walton <bwalton@artsci.utoronto.ca>

Merge branch 'sup-sync-improvements' into next

Conflicts:

bin/sup-sync

Merge branch 'dlload-bugfix' into next

bugfix: typo

Merge branch 'master' into next

bugfix: poll.rb assuming all messages have froms

This was throwing an exception, so now it's protected. The from is only
necessary for the after-poll hook.

improve sup-sync output

Report every 15 seconds, and show the sender for added messages.

make sup-sync's --start-at actually useful

Using --start-at with sup-sync will now seek forward to the next valid message
if given an offset that's not on a message boundary. This makes it possible to
use that option without going through the laborious process of finding the
exact message boundary.

Also die unless --start-at is used with only one source, since using it across
multiple sources is almost definitely an error. (And if that's really what you
want, you can just call sup-sync multiple times.)

Merge branch 'various-mbox-fixes' into next

Conflicts:

lib/sup/mbox.rb

don't require has_errors? in Source objects

Properly speaking that's a function of a Recoverable object, not of a
source, so only call that method when it's availably.

make raw_message faster with string += => <<

this method ain't used that much, but << is significantly
faster than += for Strings.

fix mbox splitting regexp

I dunno. This helps with the "From problem", but at the expense of being
too specific than the mbox spec really demands. I don't think there's a
really right solution, in general (due to the mbox format being a
fundamentally broken one), but I'm hoping this will work with all modern
mbox files.

Merge branch 'scanning-speedups' into next

aaaand fix up NON_EDITABLE_HEADERS

Since the case has changes but we're doing caseful
comparisons. Sigh.

Merge branch 'scanning-speedups' into next

bugfix: edit-message-mode headers broken by case changes

This is a lousy hack, but: capitalize header names when
they come back from Source.parse_raw_email_header, and everything
should work as before.

Merge branch 'scanning-speedups' into next

Merge branch 'master' into next

don't automatically parse header on Message#new

You must now explicitly call #parse_header (e.g. when loading
from the index) or #load_from_source! (e.g. when loading from
disk).

This prevents redundant loading from the source when adding to the
index, as #snippet must be called before adding, and that requires
loading the entire message from the source.

make Index#sync_message take an extra speedy arg

Previously it would check the index if docid and entry were nil,
even though nil is a valid result of a previous check. Add an
extra argument controlling whether this check is performed again.

Results in a minor speedup.

disable extra (slow) sanity check in Index adding

better sup-sync output

move MBox.parse_header -> Source.parse_raw_email_header

disable logging of email header cleanups

I'm now pretty certain this logic is correct, and seeing these
messages was causing people some unnecessary grief. Commented
out for now.

change email header parsing. MASSIVE SPEEDUP!

restructure the email header parsing code to improve speed and to
improve API. MBox::read_header now returns a hash containing all
headers, with keys downcased but nothing else.

update Message#parse_header to accept this new format.

update unit tests to reflect new format.

The exciting news is that changes in how the parsing works have resulted
in a 480% speedup in message parsing speed (634 message/s vs 132
messages/s on my machine), across ALL source types. hell yes.

replace += with << in mbox reading

there's a tremendous speed difference between these two operators,
though neither of these points are bottlenecks.

remove vestigal mbox#read_body method

make sup-files.rb print out all files when executed

This makes it easy to do something like:
  vi `ruby ./sup-files.rb`
to edit all files.

Merge branch 'edit-message-mode-longname' into next

Merge branch 'master' into next

improve mime-view and mime-decode hook documentation

Changed cc and bcc field editing to use Person.full_address instead of Person.longname which includes the quotations of the name if needed.

Merge branch 'master' into next

trivial: display attachment sizes

Merge branch 'dlload-bugfix' into next

Merge branch 'better-buffer-list' into next

update NewUserGuide.txt with new keymappings

add libc message for BSD users

improve dlload of setlocale() and include cygwin

Now we catch errors instead of dying completely, and also add
the correct path for cygwin.

Merge branches 'dont-canonicalize-email-addresses', 'multi-remove-labels', 'merge-labels', 'background-save' and 'encoding-misspellings'

Merge branch 'better-buffer-list' into next

Revert "Buffer switching, 'bn' for the next one and 'bp' for the previous"

This reverts commit 6dfbd42fbc9ba9cb89f7fd9f1fb71e259a7032ca.

keybindings: ; -> buffer-list-mode, b, B, +

';' is mapped to buffer-list-mode. I really like this, because
then ;, j, k and enter are all you need to quickly swap between buffers.

Apply-to-tagged is now '+', from ';'. Sorry. But this also leaves
room for ':' as a future buffer-chooser device, e.g. by name, with tab
completion.

'B' is reenabled to mean swap-buffer-backwards.

improve buffer-list-mode to sort by atime and more

Sort buffers by atime, color by whether they're system buffers
or not, and show a '*' for buffers with unsaved content.

add unsaved? attribute to modes

This will be used for displaying a little '*' in buffer-list-mode.

add system and atime attributes to buffers

Merge branch 'master' into next

Merge branch 'dont-canonicalize-email-addresses' into next

bugfix: catch invalid regular expressions in tag-matching

Merge branch 'labels-rework' into next

Resync listable_labels and applyable_labels with reality

The listable_labels method listed all labels except unread
which seems an unneeded complication/restriction, so it's
renamed to all_labels. The applyable_labels was in fact
user-defined labels so it's renamed to user_defined_labels.

Merge branch 'default-colors'

bugfix bugfix: preserve recipient_email email address

When responding to an email with a recipient_email field (i.e. an Envelope-To
header), look up the name in the account list, but keep the original email
address.

Merge branch 'dont-canonicalize-email-addresses' into next

bugfix: reply from addresses drop the names

In the new world of no Person canonicalization, we instead need to go
through Account (which does map the name) when we use #recipient_email.

Various comment improvements as well.

update webpage to reference blog and fix 0.7 release date

Merge branch 'dont-canonicalize-email-addresses' into next

overwrite from and to fields in index when saving a message

See comments in the code. This allows you to forcibly update the from/to
address stored in the index for messages, which means you can correct
the bad stuff stored in there due to previous versions of Sup that
canonicalized email addresses.

properly parse email addresses store in index

See comments in code. Email addresses are stored in the index in a bizarre
format, but we can re-parse them.

remove references to PersonManager in tests

Remove the now useless PersonManager

Replace PersonManager.person_for by Person.from_address
and PersonManager.people_for by Person.from_address_list

Close the "remove email->name mapping" issue

Remove the people.txt mapping.

Merge branch 'undo-manager' into next